电信行业正面临前所未有的挑战和机遇。为应对日益激烈的市场竞争和不断攀升的运营成本,电信运营商亟需探索一条高效、可持续、可复制的在企业内部应用基于大语言模型的智能体的路径。本项目开创性地提出了“电信运营商基于大语言模型的智能体应用框架”,力求实现智能体与电信运营的无缝融合;并提出了开创性的参考技术架构,为电信运营商构建智能体提供了切实可行的路线图。中国电信和香港电讯作为项目发起方,联合华为、亚信科技和博瑞得,分别在家庭宽带用户自助服务和VVIP用户体验保障等场景进行了概念验证,在运营效率提升、成本节约和客户满意度提升等方面取得了显著成果。该项目为其他电信运营商树立了最佳实践典范,号召全行业携手并进,积极利用基于大语言模型的智能体这一新质生产力,开创自智运营新纪元,推动行业实现跨越式发展。
电信行业正面临前所未有的挑战和机遇。一方面,电信运营商需要在日益激烈的市场竞争中实现业务增长,提升用户体验和服务质量;另一方面,随着网络架构日益复杂、业务种类不断丰富,运营商的运营成本和难度也在不断攀升。人工智能被普遍视为应对这一困境的关键之策。然而,当前许多运营商的AI部署却呈现碎片化的局面,不同业务条线各自为政,导致部门间协同受阻,难以全局优化,AI投资回报率难以体现。这无疑制约了运营商实现数字化转型的进程。
随着大语言模型和智能体技术的崛起,电信行业AI应用迎来新的突破口。权威机构报告指出,以大语言模型为代表的生成式AI将通过创新用例实现15-40%的经济效益提升,并通过释放现有生产力带来35-70%的额外提升。
但大语言模型和智能体在电信场景应用也面临特有技术挑战:
如何根据电信行业的独特需求定制模型?电信行业拥有复杂的网络架构和海量数据,如何让大模型理解并处理这些数据至关重要。
如何确保智能体提供准确可靠的信息,避免出现“幻觉”?AI模型的可解释性和可靠性是至关重要的,尤其是在电信这种对稳定性和安全性要求极高的行业。
如何设计能够有效地从经验丰富的员工和日常运营中学习的系统?将专家经验和大模型能力相结合,才能构建真正智能化的运营体系。
因此,探索一条高效、可持续、可复制的基于大模型的智能体应用路径,对于电信运营商而言意义重大。
为了克服基于大语言模型的智能体应用所面临的挑战,本项目开创性地提出了"电信运营商基于大语言模型的智能体应用框架",力求实现智能体与电信运营的无缝融合。
图 1 电信运营商基于大语言模型的智能体应用框架
这一专为电信运营商量身打造的应用框架由两大核心组件构成:
第一部分是价值运营框架(Value Operation Framework,VOF)价值模型:该模型为评估和最大化基于大模型的智能体投资的商业价值提供了清晰的思路。通过自上而下的方法,将预期商业价值与可度量的运营和作业指标直接关联。利用该模型,电信运营商可以:
量化AI举措所实现的商业价值;
确定业务成功的关键绩效指标(KPI);
精准识别需要优化的底层作业流程和指标。
从而确保将大模型和智能体优先应用于业务最为迫切,也最能产生商业价值的场景,并在落地过程中准确评估其成效。
本框架的第二部分—执行系统,为基于大模型的智能体战略在电信运营商的实施落地提供了切实可行的路线图。该系统由五个关键组成要素构成:
战略处于核心地位,电信运营商高层对基于大模型的智能体的聚焦战略至关重要。
数据、知识管理和文化是基于大模型的智能体在电信运营商应用的基石,智能体的成功实施有赖于扎实的数据基础和有效的知识管理。更需要强调的是面向大语言模型的知识管理,它为大模型面向特定场景的增强训练和精细调优提供了高质量语料库的支持。
技术和流程运营是智能体战略转化为现实成果的双引擎。单纯引入智能体这一创新技术还远远不够,电信运营商还须对运营流程进行精益优化,方能充分释放智能体的潜能。只有实现先进技术与精简流程的无缝融合,才能最大限度地提升智能体的商业价值。
本项目还提出了开创性的“电信运营商基于大模型的智能体技术参考架构”。该架构将指引电信运营商以领域知识为依托,定制适配的大语言模型,进而安全、高效地构建智能体,并与现有系统深度整合,全面赋能业务运营。
图 2 电信运营商基于大模型的智能体技术参考架构
智能体与电信运营商现有的运营支撑(OSS)和业务支撑系统(BSS)对接,API管理是智能体得以应用的重要前提; 智能体所使用的大语言模型与电信运营商当前AI模型在数据、知识、推理、优化和部署各个层面深度协同; 提示引擎、模板库以及低代码/无代码智能体构建工具将大幅降低智能体开发门槛,让业务专家也能轻松定制
中国电信和香港电讯信有限公司(HKT)作为本项目的参与运营商,通过概念验证(POC)实施,在运营效率提升、运营成本节约和客户满意度提升等方面取得了显著成果,并已经做了面向更多场景的长期规划。
中国电信将大语言模型和基于大语言模型的智能体定义为面向高效运营的新型生产力要素。他们在安徽省开展了家庭宽带用户自助服务和客户投诉处理的概念验证,取得了故障处理效率提升30%、装维人力节省超千万元人民币、满意度领先竞争对手等成果。
展望未来,中国电信计划到2024年底将AI+云网运营在支撑战新产品、提升一线生产效率和绿色节能等方面进行全国推广,以实现更大的价值提升。具体目标包括:支撑35种创新型产品的受理开通、安装交付和售后服务;云网事件自动处置率提升至75%,高危指令稽核效率提升50%;硬件类家宽装维上门次数减少50%,人均维护基站数提升21%,预计全国范围内的运维成本可节省上亿元人民币;在基站和机房节能方面取得显著效果,总体年化节电量达数亿度;通过智能体的加持,助力云网运营部分应用场景的自动化智能化水平达到L4+级别。
香港电讯的概念验证项目聚焦于VVIP用户体验保障,取得了显著成果,包括净推荐值(NPS)行业领先,客户投诉量减少,服务损失降低等。基于这一成功经验,香港电讯计划将该解决方案扩展至高价值用户体验保障、应急通信保障等领域。通过快速复用历史经验,该解决方案有望进一步提升运营效率,主动保护用户权益,最终达到投诉量降低、整体满意度提升的目标。
本项目开创了基于大语言模型的智能体在电信行业的实施先河,为其他电信运营商树立了最佳实践典范。除了扩大试点范围外,项目团队目前正在致力于建立基于TM Forum的标准,以促进行业协作,鼓励更多电信运营商、供应商和其他行业合作伙伴参与到这场变革之旅中来。
电信行业的智能化转型离不开所有从业者的共同努力。只有携手并进,积极利用基于大语言模型的智能体这一新质生产力,才能真正重塑行业版图,为客户传递更大价值,开创自智运营新纪元,推动行业实现跨越式发展。