火山引擎智能客服产品总监 赵石
文末获取直播回放及嘉宾PPT分享
提到字节跳动，大家可能首先会想到抖音、今日头条、番茄小说等APP，但实际上所有这些大家耳熟能详的APP底层的基础算力，以及一些核心的与AI相关的技术模型，全都沉淀在火山引擎这个平台之上。火山引擎不止承接了字节内部的一些核心业务，我们把同样的技术、模型能力、产品的解决方案开放给客服行业和公众。
豆包大模型除了服务于豆包的AI助手外，也在内部各类业务线审核客服安全等不同的业务场景，这意味着豆包大模型集成了来自各行各业、多场景的一些丰富的语料沉淀，吸纳了更多的人类语言常识以及基础业务通识。
传统智能客服的局限
智能客服其实已经不算是一个新鲜的概念了。从10年前开始我们就一直在做智能客服，传统的这些小模型其实最大的问题在于构建一个智能服务以及维护一个智能服务所需要的成本。
传统的智能客服主要的运作方式需要我们把所有的业务知识、业务方法、业务流程，都训练成自然语言。在这个过程中，一个业务从0~1启动的过程一般需要上万甚至是数十万的语料进行人工的训练和标注。尽管付出了巨大的努力，但整个智能客服也只能对于业务知识进行简单的问答，如果客户问了一些知识库里没有训练、没有维护的知识，智能客服就不能给予相应的解答。所以我们也收到了很多吐槽，比如认为人工智能不智能。
在传统的技术之中，我们识别到了意图之后，对应的是一个固定的答案，也就是说，每识别到一个用户意图背后的解决方案是唯一的，无论客户的上下文情况和真实意图是什么，我们的智能客服只能给出单一的答案。
那火山是如何融入最新的大模型技术对此进行改善的？
降运营门槛：某餐饮连锁坐席辅助案例
有一家连锁餐饮企业在全国有1000多家的连锁门店，但是所有客服中心的电话都集中在一个团队集中承接。这个客服中心核心的业务就是订餐、排号。在用户交互的过程中，不会只进行简单的预订，可能还会涉及停车、活动优惠等问题，但所有门店的知识、情况不一样，是依靠各个门店的店长、经理把信息统计在一个公共的文件夹里。当客户来电时，客服再进行庞大的信息检索，一般需要30秒左右，这是服务过程中最大的困难和卡点。
火山引擎嘉宾分享PPT
在大模型上线后，我们依旧需要各个门店的经理和服务员去维护知识，但是通过飞书的云文档，大模型可以直接读取云文档里所有的业务知识。当客户在问有关门店的一些问题时，大模型就会自动找到对应门店的文档，快速检索并生成答案给到用户。在这个过程中，对于客服人员来讲，他不需要再繁琐地去手动打开文档，大模型可以自动帮他定位门店，并且从门店中挑出合适的知识给予解答。
大模型和小模型时代的客服有一个最大的差别是，并不是单纯做意图的一一对应的匹配理解。例如，客户想了解包间能坐多少人？传统的小模型，通过匹配发现答案是8个人，就会直接回复客户能坐8个人，到此结束。但大模型可以回复：“这个包间最多容纳8个人，但是2个相隔的包间中间的隔断是可以打通的，如果您要预订这样的包间，还需要交50块钱包间费”。
我们把所有业务知识文档塞给大模型，相当于大模型需要通盘理解全部知识，并且根据用户上下文的意图综合考量后进行回复。大模型能更多地综合上下文内容、感情和意图，更有针对性地对原始的业务知识进行加工。
提业务效果：某餐饮连锁坐席辅助案例
在家电企业又有所不同，其客服中心里有70%～80%的场景是关于报装或报修的。客服所起到的作用是澄清用户的问题，搞明白用户需要我们做什么，并把问题记录下来传递给二线。所以在这个客服场景里，客服需要根据客户不同的诉求记录工单并分类，经过测算，我们发现一个客户的记录将会花费30秒到40秒左右的时间。但是在企业中，尤其是使用BPO客服的企业，对于客服还有接单率的考核。
所以在这个情形下，很多客服在记工单的时候会有偷懒的情况，直接把客服和客户之间原生的会话贴到工单里就开始下一单了。这样会产生一个严重的问题，二线师傅要花大量时间和精力去研究到底要为客户解决哪些问题。
火山引擎嘉宾分享PPT
通利用大模型的总结分析和归纳的能力，可以自动把客服与客户之间的会话进行总结，不但能抓取到常规的内容，比如客户诉求、客服的解决方案、最终的协商结果；还能对客户情绪的异常进行监控识别，最终总结记录在工单里，并流转给二线。上线之后经过半个月的打磨，用AI记工单的准确率和准确性已经超过了人工记工单的准确性。大模型在总结、分析方面的能力明显超越了以前的传统的模型，除了工单的记录，在质检、VOC机会洞察等方面，应用同样的技术，可以帮客服进一步提效，也可以帮助企业升级业务。
对于业务咨询类的需求，我们用RAG检索增强的技术帮助企业运营人员，通过维护文档的形式可以快速更新业务信息，比如商品信息、业务信息、流程信息、政策信息，可以第一时间反馈到大模型客服从而保证整个问答效果的良好运转。
对于相对复杂的业务办理，除了用大模型的意图理解之外，我们也提供了一个偏流程画布类的编辑工具，这个工具能够帮助企业更好地模拟业务流程，通过大模型+业务流程编排工具这种混合的方式，就可以完成相对来说比较复杂的业务办理类场景。
此外，对于安全风控，我们也提供了相关的能力，大模型可以理解哪些是属于危险的、不友好的、非业务的话术，在回答客户时可以尽量规避。
火山引擎AI客服的多种灵活方案
火山引擎嘉宾分享PPT
火山引擎是怎么把大模型的技术跟现有的客服系统进行一个集成应用的呢？
如上图，最下层就是我们基础的原子能力，包括了豆包的大语言模型和一些ASR、TTS这些语音识别、语音合成的模型。在这个基础之上，我们搭建了一个智能体管理平台，核心来讲只有两个功能：
1.有关智能机器人、方案总结等产品生成各种各样的智能体，所有智能体工作的流程规则都是在这个平台上进行搭建和调试的。2.将业务的知识文档和流程性的知识与大模型的平台做一些有机结合。质检、培训、风控、VOC等所有这些的智能体包括智能的应用，都是基于火山的基础能力以及智能体管理平台搭建的。
在这个基础之上，我们也提供了各种各样不同的集成方案，大模型知识库最大的特点是不需要再有专业的人工智能训练师，去将企业的业务文档一个个去解成faq标准问、相似问答这种格式，而是直接通过人类语言可以理解的业务文档，直接放到大模型的知识库管理平台，大模型就会去阅读、理解背后的这些知识，并且给到用户最终的一个回复。
除了这个知识的管理平台之外，我们会通过流程引擎进行一些流程的编排，以支持更复杂的一些业务场景的搭建。除了知识库以及流程引擎之外，我们也提供了一些对应的运营工具，包括数据分析、报表效果评估等。其中对于个性的知识，如何融入大模型里面？我们通过100条左右的小样本的训练告诉大模型，当前的企业有哪些知识是个性、特殊的，就能很快地将企业的知识融合在整个大模型的环境中。
对于已经有了自己客服系统、工作台，包括有saas采买的工作台的企业，我们提供了三种不同的形式：
a. 利用客户端版的AI助手，客服只需要打开桌面版的AI助手，然后在原来已有的客服工作台里面去做划词，之后根据划词之后产生的内容，会给到一些机器的回复、总结、润色等功能。无需跟已有的各种工作台进行API和数据的打通，只需要在原有的平台上进行这种插件式的挂载，就能获取原来工作台中的一些信息，并进行进一步的加工处理以及回复。
b. 结合RPA的方式，本质相当于模拟一个客服在工作台上进行各种操作。例如，汽车企业每一个客服都面临着成百上千个不同的微信群，他需要时刻关注各种群里是否有人提问并给出回复，利用RPA的技术可以不断刷新、搜索到底有没有用户提出问题，如果有，把问题抓取出来，调用客服的大模型可以快速给用户一个自动回复。此外，还有一些通过API的集成方式。
c. 我们也提供了一个端到端的全渠道客服平台，这个平台里天然集成了基于大模型的机器人，基于大模型的智能辅助、智能回复助手，包括工单助手。
除了产品的服务以外，火山还提供了对应的运营服务，包括最初期大模型的知识管理、流程搭建、方法论的分享。除了代运营的服务之外，我们还提供了一些云客服的人力，如果企业在服务的高峰时段有潮汐效应，会在短时间内需要更多客服的人力支持。
综上所述，除了好模型以及好产品以外，我们也需要有一些对应的好的运营方法论，这三者叠加起来才能让我们的大模型服务真正在实战中落地，提升企业的服务质量。
年会精彩回放
PLAYBACK
文稿来源 | 2024（第九届）中国数字服务产业发展年会
分享嘉宾 | 火山引擎智能客服产品总监 赵石
主题分享 | 模力驱动，AI客服助手服务新体验
整理编排 | 如耶 蔡蔡
↓↓ 了解近期活动资讯请点击下方图片 ↓↓
