在刚刚落幕的2024世界人工智能大会(WAIC)上,中国大模型应用如井喷般涌现,演了一场“上新盛宴”,不仅在应用落地上遍地开花,展现出令人瞠目的多元化与繁荣,更在技术上锋芒毕露,以势不可挡之势向全球发起冲锋。在此,我们看到了中国科技创新的磅礴力量,正重新定义全球AI版图!
例如网易展示了基于“易生诸相”大模型,多模态智能体助手“丹青约”全面升级;蚂蚁带来了百灵大模型的最新研发成果,多模态能力全面提升;百川智能则带来了全新的AI医疗应用——AI健康顾问;学而思携九章大模型、学而思学习机两大主打产品亮相......
其中,7月6日的WAIC上,容联云也成功举办了主题为“数智聚合 产业向上”的生成式应用与大模型商业化实践论坛。
容联云发布了容犀智能大模型应用升级,覆盖了从营销、销售、服务到企业业务的核心场景,为企业打造全面、高效的营销服务智能化生态系统。同时,现场还发布了大模型赋能下的以客户为中心的运营中台ELITE MOS,为企业提供更精准的决策支持与营销策略支持。
这标志着大模型应用落地的标杆再添一例。
作为云通讯领域的资深先驱,容联云早已毅然踏上智能化征途。
那么,随着大模型的不断进步和市场扩大,容联云在智能化方面还有怎样的战略布局?大模型具体如何落地到企业营销、销售、客户服务等场景?未来将如何继续深耕,为更多企业带来更加高效、智能的解决方案?
2024年大模型生成式应用的元年已至,其发展呈现出多元化和深入化的趋势,已在多个行业及场景落地。助力企业重塑关键业务场景,推动了业务流程的革新。
例如在企业内部场景,主要是在研发、运营、资产管理和合规等关键领域;在企业外部场景则主要智能营销、智能销售、用户运维、智能客户服务等领域。
此外,还有自动代码生成、虚拟助理、计算机辅助艺术和摄影、视频和音频制作以及写作助理等领域,也都将成为大模型的重要应用场景。这些领域的发展,将进一步推动大模型软件市场的增长。
图 / 摄图网,基于VRF协议
据Omdia《人工智能软件市场预测》报告,生成式AI软件收入自2023年起将以53%的CAGR激增,至2028年市场规模将突破580亿美元。2024年,GenAI软件收入增长率更是预计飙升至124%,远超先前预期。
「界面新闻·子弹财经」发现,大模型的生成式应用正逐步融入医疗、金融、制造业等各行业的自动驾驶、个性化营销、智能客服等领域,通过微调、集成与行业定制,精准对接企业需求,实现AI技术从“云端”到“实地”的跨越。
正因为提前洞察到,大模型将带来技术性的革命与新时代浪潮,容联云早就以其深厚的技术积淀和前瞻布局,力求破局。
在2023年7月,容联云就发布了面向企业应用的垂直行业多层次大语言模型“赤兔大模型”,比较早的跟进技术,并聚焦金融行业进行落地。
“深入行业应用一年后,我们在感叹新技术应用的同时,也发现面临着很多问题。”容联云产业数字云VP兼诸葛智能创始人孔淼坦言。比如真实沟通场景的幻觉控制问题,大模型的算力成本问题,以及新技术融入企业业务流程里面的改造和管理成本等问题。
孔淼介绍,尤其是和金融客户讨论大模型落地过程中发现,大模型仅有智能化能力还不够,因为最后面向企业时,他们并不是需要新的技术颠覆原来的业务,而是需要用新技术改造原有的业务流程。这个改造既要兼容旧的流程体验,也要融合新的流程体验。“所以我们在新的大模型背后还要替客户考虑更多,它背后还有海量的工程要做。”
容联云大模型产品负责人唐兴才也表示,大模型应用落地时经常面临落地周期长、资源消耗大、效果评估难等行业共性问题。
这也表明,大模型作为一种技术本身,并不能直接助力企业前进,企业真正需要的是基于大模型构建的产品或应用。那么,企业应当如何有效运用这一新兴技术,实现应用的成功落地,从而切实提升企业的价值呢?
市面上很多厂商目前都在卷大模型,或是把应用做得很薄,只是在大模型上面做所谓对话机器人,但这样的产品在企业真实使用时,回答准确率、业务提效率并不出色。面对这些问题与挑战,容联云如何避免“薄应用”陷阱,构建深厚、高效的生成式应用体系?
7月6日,容联云发布了容犀智能大模型应用升级,该系列应用包括容犀Agent Copilot(容犀AC)、容犀Knowledge Copilot(容犀KC)、容犀Coach Agent(容犀CA)、容犀Insight Agent(容犀IA)和容犀Virtual Agent(容犀VA)等,覆盖了从营销、销售、服务到企业业务的核心场景,为企业打造全面、高效的营销服务智能化生态系统。
以容犀KC和容犀IA的产品功能及效果为例。
容犀KC旨在重塑复杂的知识管理与应用流程。通过深度集成大模型技术,高效运行知识库,为企业用户提供前所未有的产品管理体验,极大地简化了知识处理的复杂性。可以实现知识构建成本十倍的下降,同时知识的应用效率从原来非常复杂的客户等待几十秒分钟级、实现提升到3—5秒。
孔淼表示,在企业内部知识管理的实践中,主要面临四大难题:一是构建成本高,传统知识库的构建高度依赖训练师的手工整理和录入,这一过程耗时费力,成本高昂。二是检索效率低下,现有的知识库系统多基于关键字匹配,缺乏对知识内容的深入理解,导致检索速度慢、准确率低,难以快速响应客户需求。三是优化难度大,在客户访问过程中,难以有效收集并利用用户反馈来优化知识库内容和检索效果,形成闭环优化的机制缺乏。四是应用场景局限,面对复杂多变的业务场景,传统知识库难以提供精准、高效的回复支持,影响客户服务体验。
而容犀KC作为一款创新的知识管理解决方案,可以显著降低管理成本,提升知识应用效率。
第一步,一键生成与智能拆分,实现从训练师到知识库管理的一键化操作,利用大模型自动拆分知识片段,进行语义切分,极大地降低了构建成本。
第二步,多模态向量化处理,对文档中的文字、图片等多模态内容进行向量化处理,提升知识库的智能理解能力,确保检索的准确性和速度。
第三步,大模型+RAG技术融合,在人工客服场景中,采用大模型结合RAG(Retrieval-Augmented Generation)技术,不仅能够理解用户上下文,还能快速定位并生成精准回复,保障服务的高效性和专业性。
第四步,数据飞轮优化机制,构建用户反馈驱动的数据优化循环,根据用户实际使用反馈不断优化数据和模型,实现知识库的持续迭代升级。
通过容犀KC,企业可以构建一个高效、智能、可优化的知识管理体系,为提升客户服务质量和运营效率提供有力支持。
而容犀IA则引入了智能体技术,将传统的会话洞察推向智能化新高度。不同于以往的事后分析与处理,容犀IA能够实时利用大模型的智能意识,深入理解会话内容,挖掘潜在需求,诊断服务流程,为营销策略的制定提供精准推荐,实现了从被动响应到主动优化的转变。
根据与客户合作的效果来看,容犀IA可以实现营销转化率5%—8%的提升,客诉率10%—30%的下降,优化我们体验和服务的质量。
过去,客户对于会话的洞察主要聚焦于会话的标注与BI分析之后的执行与评估,然而,会话数据中蕴藏着丰富的价值,直接映射出服务短板与资源低效利用的问题。当前,人工抽查虽精准却受限于全面性和效率,而小模型训练的高成本亦不容忽视。容犀IA应运而生,它以智能体的形式,旨在重塑并增强企业的核心竞争力。
孔淼在活动现场展示了实现路径:“首先,我们通过Prompt明确业务目标,随后采用多Agent协同策略,不仅辅助优化业务流程,更在工作台内敏锐捕捉潜在需求与客诉先兆。每一环节,均依托Agent的智能力量得以实现。”
以潜在需求挖掘的Agent为例,该智能体依托大模型构建,其运作模式宛如拥有记忆与规划能力的大脑。它能够从记忆中提取理解目标,规划行动路径,并借助各类工具执行具体任务。这一范式颠覆了传统软件模式,实现了端到端的自动化工作流程优化,是业务服务领域的一大革新。
容犀CA在模拟对话与陪练领域展现了其独特的魅力。它利用Agent的强大能力,结合大模型对真实会话的学习,生成高质量的陪练对话,极大地提升了训练过程的真实性与有效性。
刚刚升级的五款系列产品,其背后是容联云构建的坚实模型底座——一个融合了大型模型(如赤兔大模型)与模型管理模块的生态系统。该系统不仅支持多种主流模型(如智普、千问等)的适配,还配备了丰富的工具集,以满足多样化的需求。
在容犀智能大模型系列应用落地场景的选择上,容联云并没有“面面俱到”,而是专注营销、销售、服务等场景。
据悉,大模型在“营、销、服”行业的应用场景有20+,而容联云选择聚焦业务价值高、技术可行性强的四大业务应用场景。其中在营销场景中,容联云已经围绕大模型结合各行业进行了很多的探索。
以金融营销业务为例,优秀的营销话术能够有效提升业务转化率。但是,传统话术库是靠主管听完大量录音后总结话术给到营销员,这种方法费时费力,且不能穷尽和全面获得金牌策略。虽然之后引入了小模型AI算法提取话术,解决了量的问题,但因为算法缺乏业务经验和对话术有效性的判断,质量受限。
唐兴才以保险这一金融细分行业的具体案例为切入点,进行了深入分享。保险行业每天承载着大量的电话交互,包括400呼入及电销外呼,产生了海量录音文件。以往,这些录音主要服务于话务量的统计分析,如通话次数与时长,却忽视了其内在蕴含的丰富价值——潜在需求、投诉预警等宝贵信息。受限于技术与产品能力,这些深层信息往往难以被有效挖掘和利用。
问题的症结在于两方面:一是录音数量庞大,人工处理效率低下且难以覆盖;二是人工分析缺乏标准化流程,难以保证高效与精准。相比之下,采用模型理解录音内容则展现出显著优势,能够深入挖掘客户需求、预测投诉倾向、识别服务断点等,为提升服务质量、优化产品与增强企业竞争力提供有力支持。
具体而言,通过模型分析,容联云可以及时捕捉客户的潜在需求与不满情绪,这些信号往往早于正式投诉出现,为企业提供了宝贵的反应时间。例如,客户可能对保单续期政策表示不满,若能在其转化为正式投诉前发现并妥善处理,将极大减轻客诉压力。同时,模型还能学习并提炼优秀座席的应对策略,为面对类似情况的客服人员提供建议与指导,进一步提升客户满意度。
唐兴才在活动上强调,在实际应用中,某客户采用A100卡处理每日上万会话,配合14B参数模型,不仅实现了效率20倍的提升,还成功降低了约10%的潜在投诉率。更为重要的是,大模型能够精确指出客户对产品特定方面的反馈,为企业产品改进提供了明确方向。
尽管大模型很火,但从入局到真正落地,并规模化地推向市场,其间难度不小,合格的玩家也不多。经过一年多的打磨,容联云的大模型生成式应用已从概念跨越到实践,在多行业多场景进行了落地,真正在应用层面“秀出了肌肉”。
未来,容联云会持续深耕“通讯+智能+数据”领域,帮助企业构建更加智能化、高效化的“营、销、服”生态系统,推动整个行业的数智化转型。
©投稿专线 微信:cyzqx2013