TM Forum DTW24 催化剂 C24.0.705-生成式AI赋能的算力网络

文摘   2024-07-02 16:37   北京  

      生成式人工智能(genAI)和大型语言模型(LLM)技术的出现导致了AIGC和LLM训练推理等领域的智能应用的增长,这类应用对计算和网络资源及操作提出了新的要求。大部分企业缺乏智能计算基础设施、高质量数据、模型训练能力、专业AI工具和技能来研发此类新兴应用。
      运营商及其合作伙伴可以通过提供集成的计算和网络服务来帮助企业克服这些挑战,但当前各自独立的资源管理和低效的服务运营不足以大规模、高效率支持此类新型人工智能业务。此类业务的高度复杂性、定制化属性,和跨专业操作的实施需求将严重受限于运营商业务与技术人员的经验水平与复杂的运营流程和系统工具。
      生成式人工智能(genAI)和大型语言模型(LLM)的出现同样也为运营商提供了显著提高运营效率和创新业务模式的机会。本催化剂通过利用人工智能和自动化,使运营商强化计算资源和网络资源的按需分配,提供具有成本效益和简单易用的综合算力网络服务,为各行各业降低生成式人工智能技术及应用的使用门槛,同时帮助运营商在AI发展的浪潮中抓住增长机遇。
  1. 智能计算资源贵且稀缺,各类资源掌握在不同组织手中,独立管理,缺乏整体视角和全盘调度。需要一点集成各类资源,面向业务统一运营,提供共享的计算与网络环境,按需弹性分配,拉低资源使用成本。
  2. 新兴的大模型训练与推理业务,会产生大量对算力和网络的突发性需求,导致资源利用率低、成本高、难以掌控;同时,需要根据业务地点,灵活部署在不同位置以保证训练效率和业务性能,操作复杂、难度大。运营商可基于自身资源与调度优势,提供云边协同的模型部署与传输、弹性资源调度,以保证业务运行质量。
  3. 面对如此复杂的新兴业务,缺少业务专家、高级AI技术人才、ITCT专业人才,且相关人才分散在不同企业、不同岗位,需要长时间的协作研讨才能得出完整的方案,并分散执行。可利用GenAI/LLM技术与自动化ICT技术,实现复杂业务的意图识别、方案设计、自动编排调度和业务维护。

       

      催化剂构建了一套AI原生的算力网络(CFN)操作系统,使运营商能够通过意图驱动的CFN服务,高效地调度云边端算网资源,从而提供一站式智能业务支持。      


      催化剂参考TM Forum自智网络三层架构,构建了算力网络业务运营层、服务运营层、资源运营层整体架构。包含了五大核心能力
  • 意图理解:基于GenAI/LLM技术,通过对话式的意图交互,实现运营商对客户的自动化意图理解、意图识别、意图沟通、意图补全、意图确认。
  • 方案设计:基于GenAI/LLM技术,自动分析意图内容,基于资源情况匹配对应的算网资源,形成定制化资源方案,与客户确认后,自动生成服务订单。
  • 智能编排:基于LLM多智能体技术、ODA意图与编排技术、GenAI代码生成技术,自动设计或匹配编排工作流,自动执行编排程序。
  • 协同调度:创新算力网络网关与协议,统一感知、管控计算资源与网络资源数据,基于融合调度中心,协同调度算网设备。
  • 意图维持:实时监控算网业务KPI数据,并与业务意图指标比对,当发现指标劣化时,自动生成业务优化的服务意图,并执行编排调度工作,回正劣化指标,保障业务质量。
      基于以上五大能力,形成完整业务服务闭环:
  • 客户通过聊天的形式与运营商交流业务想法,优化传统的人工加表单式业务模式;
  • 运营商通过业务意图驱动,自动准备端到端的算网服务,自动调度各类所集成的异构算网资源;
  • 运营商为客户生成定制化的算网环境,提供一站式的AI业务支持
      
      经多家运营商成员综合评估,催化剂价值体现在可使客户、运营商、合作伙伴获得收益提升、效率提升和成本降低三方面:
  • 对于行业客户:新型智能业务上线时间可以缩短60%;与按传统方式自行订购计算资源、租用网络带宽、自行研发AI应用相比,向运营商一点订购综合的算网服务可使整体资源成本降低30%,人工成本可以降低50%,尤其集中在对高成本的AI专家的需求。
  • 对于运营商:自智网络评级从项目前的1.6级提升到项目后的3.6级;运营成本下降50%;资源利用率提升40%;60%的流程可以被自动化;单个大模型类智能业务可以带来$1~3 million的收入,增加此类业务的大规模支持可以有效提升整体收入水平。
  • 对于合作伙伴:对于大模型、AI工具、AI应用等供应商来说,可以通过与运营商合作,增加产品曝光渠道和业务销售渠道,通过一点接入运营商平台,为匹配的业务提供专业化的服务能力,降低了合作伙伴AI业务服务的复杂性,并通过合作分成提升收入。

TMForum论坛
TM Forum 作为全球权威的数字经济领域行业协会,目前拥有来自超过180个国家的900多家会员。为会员提供框架和标准、最佳实践、工具、研究报告、会议、培训认证等服务,涵盖电信运营、智慧城市、智慧医疗等领域。
 最新文章