标杆研究:三大运营商如何构建大模型体系?

文摘   科技   2024-08-30 07:30   浙江  

作者|沙丘智库研究团队

来源|沙丘社区(www.shaqiu.cn)

人工智能发展的三大核心要素是算法、算力和数据,对于运营商来说,天然具备算力网络和海量数据的先天优势,同时在数字化转型的进程中,三大运营商早已开始布局人工智能,基于对产业AI化的积累,形成了丰富的AI技术储备和算法能力,这些都为运营商的大模型发展奠定了坚实的基础。

当前,三大运营商均已发布了自己的大模型:
• 2023年7月,在世界人工智能大会上,中国电信首次发布星辰大模型,并在2023年11月数字科技生态大会上首批发布12个星辰行业大模型;
• 2023年10月,在中国移动全球合作伙伴大会上,中国移动正式发布九天·众擎基座大模型;
• 2024年2月,在世界移动通信大会上,中国联通对外发布元景大模型。
三大运营商均采取“一个千亿参数基座大模型+N个垂类行业大模型”的范式,在大模型应用上,一方面对内赋能,应用于客服、运维、营销等业务场景,并出具成效;另一方面服务于行业客户,例如政务、医疗等垂直行业。
沙丘智库长期跟踪调研大模型技术的发展,旨在帮助企业快速了解大模型最新、最全面的落地情况。通过研究中国移动、中国电信、中国联通三大运营商的大模型实践案例,旨在为电信行业提供参考。

01

中国移动

中国移动九天基座大模型系列包括语言大模型、视觉大模型、语音大模型、结构化数据大模型以及多模态/跨模态大模型。基于基座大模型,中国移动面向行业/特定场景发布垂直大模型,包括客服大模型、政务大模型、医疗大模型、交通大模型、能源大模型等。

在客服场景,目前九天·客服大模型已在中国移动10086在线客服场景规模化应用,是业界首个将大模型用于超大规模客服生产系统的工程化案例。

在营销场景,借助多模态大模型能力,中国移动结合大模型工具插件,为不同需求的客户智能生成营销话术,量身推荐产品,实现千人千面的个性化营销,针对性强、客户需求契合度高,提升营销转化率、提升客户服务满意度(完整案例:中国移动营销场景大模型应用实践

在知识管理场景,江西移动通过”大模型挂载小模型,小模型驱动大模型“的方式,构建企业级RAG开放能力平台——江小智。平台通过大小模型协同,打造通用知识管理能力,具有很好的应用泛化性和较高的知识互动精准性。平台为江西移动办公知识检索、一线营销培训等业务场景带来显著的价值提升。(完整案例:江西移动大小模型协同的企业级私域知识检索平台

在反诈安全场景,中国移动选择约1.6亿参数的GPT模型用于不良文本消息预训练,将每年拦截的垃圾短信数亿条以及外部渠道汇聚数据作为预训练数据,面向不良文本内容构建大模型,并利用大模型的理解能力和创造能力,提升反诈技术手段,全面提升不良信息治理水平。(完整案例:中国移动反诈安全场景大模型应用实践

在模型评测方面,中国移动建立语言大模型、行业大模型、多模态大模型、智能体应用、安全评测等五大评测基准,围绕评测数据、指标、方法与分析三大要素,高效开展综合全面的大模型评测。通过构建模型评测平台,支持模型注册、模型管理、评测任务管理、评测场景管理、评测指标汇聚、评测数据管理、评测报告分析、模型能力排行等一系列工作,实现一键注册、快速评测、智能分析的大模型标准化评测流程。(完整案例:中国移动大模型评测体系建设实践

02

中国电信

2022年底,中国电信星辰大模型立项启动;2023年7月,在世界人工智能大会上,中国电信首次发布TeleChat百亿参数大模型;2023年11月,星辰千亿大模型正式对外发布。目前,星辰系列已经形成包括语义、语音、多模态、视觉的基座大模型矩阵。(完整案例:中国电信大模型建设实践

内,星辰大模型目前正在经营分析、公文写作、电信客服、云网运营等场景探索智慧应用。例如,在电信客服场景,湖北电信启动“谛听”客服智能体创新项目,在万号客服接听人工来话的长尾问题场景中,采用大小模型协同、多智能体混编技术,提升意图命中及关键实体的精准率,在此基础上提升对客户诉求的一解率并有效压降系统内操作时长,提高了客户服务满意率,缓解了坐席压力。(完整案例:基于中国电信大模型底座的“谛听”客服智能体创新

对外,星辰大模型可在政务客服、教育、医疗卫生等领域实现行业赋能。例如,在政府客服场景,上海12345政务热线引入“星辰”政务大模型,深度嵌入政务热线生产和运营流程,为话务员提供智能话务总结、智能填单/派单、智能知识库问答等功能;为管理人员提供数字运营分析辅助,监控话务量和工单量,自动识别集中热点;为培训人员提供智能化培训服务,自动出题,辅助数据打标。(完整案例:2024年生成式AI案例研究简报(7月) (276 个案例/324页PPT)

03

中国联通

中国联通打造了元景“1+1+M”大模型体系,包含1套基础大模型、1个大模型底座、M种行业大模型,实现了通用能力提供与行业场景模型快速定制结合的体系化赋能。(完整案例:中国联通大模型建设与应用实践

基于基础模型及底座,中国联通研发了面向内外部业务场景的行业大模型,具备“职业技能”,赋能网络、客服、终端运营、营销等初见成效,助力政务、经济运行、医疗、服装、物流、城市治理领域示范应用。

在客服场景,中国联通充分发挥大模型技术储备优势,形成面向客户、面向一线、面向运营管理三类AI赋能场景,并基于业务场景打造形成知识生成、话术优化、文本摘要等核心能力,聚合大小模型特性进行端到端场景化功能设计。

在营销场景,上海联通以大模型技术创新应用为核心驱动,围绕政企营销策划和售前支撑全流程场景,构建“大模型+传统AI能力(小模型、NLP等)+场景组件工具+智能体+数字人”的能力体系,对联通政企业务售前、售中、售后全生命周期进行数智化赋能探索。(完整案例2024年生成式AI案例研究简报(7月) (276 个案例/324页PPT)


*更多生成式AI研究可前往“沙丘智库”小程序查阅

*有任何需求可咨询客服微信:zimu738




沙丘社区
数字化研究与服务机构
 最新文章