百度智能云客悦，进击在AI时代
科技
科技
2024-09-25 19:53
山东
产业互联网第一媒体。 产业家
从更大的视角来看，如今的客悦走出的不仅是智能客服的新AI范式，也更是一个百度探索AI，以及中国软件产品AI进化的典型代表路径。在这个进化路径里面，有产品为王，有产业为基，有需求驱动，有小步迭代，也更有从技术到服务流程的全面进化。2023年下半年，李敏明显感觉到，氛围正在变的不一样。“大模型一出来，几乎所有的客户都开始观望是不是应该用大模型做点什么，尤其是自己的智能客服系统。”如果把时间往前回溯几个月，几个重磅的事件在科技界先后发生，即在大洋彼岸OpenAI发布了生成式对话产品ChatGPT，而在中国，百度率先打响大厂AI的第一枪——文心一言正式发布。与此同时，一系列关于大模型革命的讨论蜂拥而来。在其中，最首当其冲的行业正是李敏所在的智能客服赛道。但相较于其他人，身处智能客服运营一线的她，在漩涡中的体感甚至还要更强烈一些。一个确定性的事实是，伴随着AI时代的到来，智能客服可以说是最先成为讨论点的企业服务方向，甚至没有之一。而从当下来看，在过去的18个月时间里，关于它的讨论和市场检验一直没有减少。但伴随着时间的推移，这种讨论的水温在发生微妙的变化。如果说，最初人们对于AI理解更多的标签是“替代”“重构”“颠覆”等定调式的表达，那么如今伴随着AI技术的不断落地，这个关于AI故事的褶皱则是在被不断拉长——市场的关注点开始更多地在“变化”、“迭代”，以及“+AI”。理性的另一面，是越来越多的产品惊喜正在出现。一个不完全的数据统计是，如今李敏所在的百度智能云客悦智能客服应用，自基于大模型重构上线后已经累计帮助企业客户成功接待1.5亿人次，如今这个速度伴随着越发成熟的产品服务更在加速飙升。如果说对于AI大模型时代的TO B产品应该有一个展望和雏形，那么智能客服，这个在风口浪尖上的赛道是最能找到答案的方向，在其中，在刚刚过去的云智大会上再次宣布升级的百度智能云客悦恰是最好的观察样本。几个问题是：在过去的18个月时间里，客悦做了什么？站在百度这艘庞大AI轮舰之上，它理解或者说定义的智能客服到底是怎样的？以及更细来看，如今的它，产品和工程能力是否已经成型？通过对客悦的产品、市场反馈以及内部行进的故事的拆解，我们试图还原这个如今在智能客服市场可以称之为绝对头部的AI玩家，在奔涌至今的AI浪潮里，到底走过了一条怎样的路。可以说，这条路不仅是关于智能客服行业的进化，也更是百度之于AI探索、中国软件产品进化故事的一个缩影。“我们算是百度内部在toB方向上第一批尝试大模型重构产品的业务线。”百度智能云智能客服与智能内容产品部总经理张红光告诉产业家，“但最开始更多的还是基于文档问答的形式。”用李敏的话来说，就是随着大模型的到来，“整个市场都‘懵’了，我们自己内部是这样，当然也包括客户。”她告诉我们，一个有意思的现象是，由于AI大模型的到来，很多即将上线智能客服的大型企业甚至暂停了智能客服的项目进度，“客户也在担心能用AI做什么，不想项目上线后明年就"过时了"。”诚然如此。伴随着百度打响国内大模型第一枪，尽管市场对于大模型有了足够真实的感知，但不论是从模型能力、模型参数以及模型应用等等方面，都处于绝对的初期，虽然技术参数的突破始终保持在“日更”的频率，但就落地而言，与之对应的是AI能看到的在企业侧的能力仅仅停留在copilot阶段，即基于文档进行智能辅助问答以及辅助编辑处理。对企业和服务商而言，从2023年3月甚至到10月的半年时间里，“AI到底能做什么？”几乎可以算是整个市场都在不断探索和摸索的问题。在客悦内部，这种思考也更在成为所有人的日常，即大模型对于智能客服的加持是在坐席辅助、智能外呼，还是营销、前端引流，就当时的大模型产业能力边界而言，都很难有足够清晰的答案。甚至对客悦团队而言，他们的压力甚至要更大。“因为百度是最先在AI侧发声的，所以我们给自己定的目标也是要在AI智能客服方向做到市场领先。”但实际上，在张红光的带领下，客悦已经开始迈步。一个能看到的市场动作是，其实早在2023年年中，客悦就已经在一些大型客户内部进行了基于大模型智能客服项目的POC测试，和企业一起摸索使用场景，这些摸索包括但不限于做知识运营工具、以及对于不同文档和知识库的检索问答，以及对不同的SOP进行排序等等。如果从行业的视角来看，这几乎可以算是国内最早一批的大模型客服项目POC。而在这些项目POC的摸索和共创中，同时伴随着百度智能云文心大模型能力和工具链的不断升级，张红光和团队也开始慢慢对于AI大模型时代的智能客服有了自己的新理解。2023年Q4初始，在张红光的带领下，客悦正式基于文心大模型进行智能客服应用的开发重构。“其实到了2023年年底，就已经有不少客户开始尝试我们的SaaS版本了。”李敏告诉我们。这也正是客悦团队的AI大模型客服应用推进节奏。与在客户内部进行私有化POC受到算力限制情况不同的是，客悦首先推出的是公有云SaaS版本，可以理解为，基于SaaS的产品形态，一些基于AI大模型的能力可以被更好地呈现和被企业客户使用，同时基于这些使用和数据飞轮反馈再反推产品的加速迭代更新。而在这个过程中，一些更新的能力在被越来越多客户“点赞”。比如过往需要花费大量精力做的FAQ，基于客悦的新版本用大模型泛化能力就可以节省大量时间；比如自助解决率，越来越多的企业基于客悦SaaS版本的能力突破了这个过去多年“稳步不动”的指标等等。不过对客悦团队而言，挑战仍在继续。即尽管SaaS版本已经得到了不少客户的验证，但对于在数据隐私侧要求高的客户而言，更能满足其需求的还需要是私有化的企业版，即通过混合云甚至是专有云的形式进行部署，这其中考察的不单纯是产品的单点能力，更有智能客服结合AI大模型的服务能力、与其他应用集成的能力，以及全端运维。就2023年年底的时间点来看，整个智能客服行业还尚没有成型的同类产品出现。张红光告诉我们一个细节。“很快有一个很头部的餐饮客户上线了客悦的专有版本，基于客悦，企业的自助解决率从之前的不到80%提升到了90%以上，提升了超过10个点。”这个企业在验证了客悦智能客服专业版能力之外，对客悦团队而言，它更重要的一个信号是：客悦的AI原生能力，已然真正成型。实际上，不止这个餐饮客户，在2023年尝鲜客悦SaaS版本的很多企业，伴随着客悦专业版的出现，也都开始了迁移。李敏印象比较深刻的是一个旅游局公共服务单位，早在去年10月份双方就已经开始了接触测试，基于大模型任务会话与大模型文档问答等能力可以帮助其做到用户自助解决率93%，而在今年的Q2，它也更是直接全量接入到了客悦智能客服专业版上。如果说去年来自各行各业的企业是处于“摇摆不定”“观望摸索””的阶段，那么在今年的Q2、Q3，几乎之前的所有企业都加速了项目的推进，和百度智能云客悦签约。“因为AI的智能客服是最好衡量效果的，它替代了多少坐席，自助解决率能提高多少，这些都是可以计算出来的。”张红光告诉我们，“就像提到的这个Top级的餐饮客户，每天我们能帮他节省超过2.5w的人力成本。”那么，客悦到底摸索出来的是怎样的一个AI大模型智能客服能力？对当下的大中小型企业，他们最大的AI智能客服需求在哪？——这是张红光和客悦团队在整个2023年一直思考的问题，即从智能客服的需求场景来看，大模型的价值到底在哪？而在一个个需求了解和产品碰撞的过程中，几个点逐渐被梳理出来，“一是对复杂场景、复杂问题的分析理解，更好地解决问题；其次是基于大模型在智能客服场景进行营销属性的强加持；最后则是在电话等智能客服端降低基于大模型的对话时延。”拆解来看，这三个问题对应的几乎是不同的大模型能力。比如对复杂问题的简单化拆解，其更多对应的是模型对不同表达的理解力以及对特定领域的强化学习能力；再比对营销场景的加持，其对应的是基于不同的SOP大模型自动规划和思考的Agent能力构建等等。在一次次尝试中，这些真实的需求点也被客悦一点点实现并体现到产品中。客悦能将端到端自助解决率提升超过92%的能力，具体到产品侧还有两个花费大量精力设计的点：客服灵活画布和客服快捷场景Agent。对灵活画布的一个简单介绍是，它对应的是企业之前的竖状SOP流程图，但在如今的大模型加持下，之前的SOP流程图可以被无限延展和放大，即从单点流程可以扩充到多个分支的并行，同时基于某个节点可以嵌入不同的AI能力。比如大模型自动回复、大模型条件判别等等，帮助企业在原有的SOP基础上可以更高效、更智能地完成端到端的客服任务。而快捷场景Agent对应的恰是张红光所说的第二个目标，即营销。它可以帮助企业定向完成某个任务目标，比如商品导购、引电留资等等，基于定向的目标它可以实现流程和规划的自动生成，伴随着实际使用，也会同步自我进化。“现在很多企业一般会两个都选用，灵活画布和快捷场景Agent都会选择，在不同的业务场景和环节里使用，前者更多是基于企业自己固有流程的优化，后者是面向具体特定的目标。”而这些能力更底层的分子化拆解，也更是在本次百度云智大会上被先后披露。比如其多模态能力的升级，对企业而言，其不再需要像之前只使用FAQ的结构化文本进行低效训练，而是可以基于大模型以及其多模态能力，基于不同的知识进行全面理解；比如多语言能力，可以帮助不同地域的用户满足需求；以及端到端的洞察能力，可以基于客户的对话数据进行自动打标总结，可以更好地挖掘和理解用户需求优化业务流程，进而提高企业的服务水平。以客悦帮助澳门特别行政区政府旅游局所打造的澳门旅游局智能客服机器人为例，它一共学习了数千篇中英文旅游相关文档，问题回答准确率可以达到达到90%以上，同时它还能提供简体中文、繁体中文和英文等多种语言的服务。实际上，能清晰感知到的是，在产品的单点之外，客悦更进化的点也更在工程落地侧。以为构建速度为例，“之前一个完整的对话模型搭建至少要20天到30天，现在基于大模型的多轮对话甚至一天就可以完成，完整上线最多也就10天的时间。”李敏表示，“整个过程效率提升了超过6倍。”这种从产品到工程落地的价值也更在客户侧被进一步感知。李敏告诉我们，一个面向汽车配件的企业从今年3月份下单，4月份开始逐步调试上线，但他经常会给客悦的运营同学提供反馈建议。“他是纯粹的技术信仰派，他经常说‘你们这个产品非常棒’‘’很有希望‘一定会越来越好’。”在SaaS专业版本侧，客悦汇聚的中小企业客户也在越来越多，基于所有用户的反馈，张红光带领团队也更会保持稳步的AI能力进化。“目前很多企业开始接受公有云的AI大模型智能客服项目POC了。”他告诉我们。而与这些产品策略、模型进化同步发生的是，客悦也在越来越多的出现在不同的企业场景里，比如澳门旅游局的旅游小助手，比如国家图书馆的“顾朝夕”，再比如面向某金融机构的智能客服“小兴”。从客户类型来看，来自教育、政务、电商、汽车、文旅、物流、医疗等不同行业的企业如今都已经或者正在基于客悦构建自身的AI大模型客服系统。如果把时间回到2023年3月份，从上帝视角看，客悦可以说是百度内部TO B产品打响的AI第一枪。而从3月份至今，百度智能云自身也更在进化，不论是如今新升级到4.0版本的底层算力设施百舸，还是AI工具侧的千帆大模型平台等等，它们在成为不同企业AI需求强大供给阵地的同时，也在为客悦的进化提供的养料。张红光告诉我们。“现在虽然水面之上能看到的是我们交付的客悦产品，但在水面之下，其实我们封装了包括千帆大模型平台企业级RAG能力，以及百舸算力的模块，一起面向客户提供服务。”此外，在具体的交付上，客悦也会基于企业的不同情况采取“大模型+小模型”的方式进行交付，即通过对模型特定领域的能力强化学习，使得小模型在特定领域具备和大模型一样的能力，进而使得企业可以以最低的成本满足自身需求。以及在不同的项目上，团队也会根据企业情况派出相关的效果运营同学，帮助企业能更“严丝合缝”地使用和将客悦嵌入业务体系。可以说，如今的客悦正在构建的恰是一套基于AI大模型的新智能客服体系，这套体系里有从copilot升级到将AI能力完全嵌入产品的AI原生应用。有灵活的部署模式，有封装成型的多模态能力，更有其中最为核心的AI客服核心模块灵活画布、客服Agent框架等等。这些也恰都在构成着如今在AI大模型时代里新的客悦。“其实我们也更融入了之前一些产业算法和理解，之前的东西也都没有丢，都融入到现在的客悦里面。”一个数据是，在过去几年时间里，包括沙利文等多个权威咨询机构出具的行业报告里，客悦都位于市场领导者梯队，而其对话式AI Frost Radar中的增长指数、创新指数也更是名列前茅。这些过往的产业积累，结合如今在AI大模型侧的创新，也恰构成着如今新的AI时代里的客悦。从更大的视角来看，如今的客悦走出的不仅是智能客服的新AI范式，也更是一个百度探索AI，以及中国软件产品AI进化的典型代表路径。在这个进化路径里面，有产品为王，有产业为基，有需求驱动，有小步迭代，也更有从技术到服务流程的全面进化。而这些进化，在经过漫长的摸索和重构后，如今在一个个客户选择和认可中也更在逐渐浮现出新的市场正反馈。如今，百度智能云客悦团队依然没有懈怠。比如像前文提到的几个重点突破领域，如营销Agent的构建，对话时延，以及底层模型的不断优化等等，这些依然是客悦团队在2024下半年的日常主线。“比如对话时延，这其中涉及的不单纯是大模型的本身问题，更有推理、通信等多方面的问题，这些都优化好，才能真正解决问题。”当谈到对过去20多个月的感受时，张红光和李敏都不约而同用了“突破”这个词，对他们而言，相较于智能客服之前几个时代的升级，在AI的到来下，这个行业正在经历的是几乎重构式的变化，从产品到行业规则，从服务模式到智能客服赛道本身的边界。但突破之中，也有冷静的把持。“现在仍然处于一个行业早期，大家整体还是比较浮躁，我们觉得要更加耐心，真正把产品打磨好，让更多人使用，只有这样才能真正突破。”他还告诉我们一个小插曲，“客悦”，这个名字是集“团队之脑力”，在去年刚起的，出发点是在AI到来的今天，让客户能真正拥有喜悦，享受喜悦。
