智能计算资源贵且稀缺,各类资源掌握在不同组织手中,独立管理,缺乏整体视角和全盘调度。需要一点集成各类资源,面向业务统一运营,提供共享的计算与网络环境,按需弹性分配,拉低资源使用成本。 新兴的大模型训练与推理业务,会产生大量对算力和网络的突发性需求,导致资源利用率低、成本高、难以掌控;同时,需要根据业务地点,灵活部署在不同位置以保证训练效率和业务性能,操作复杂、难度大。运营商可基于自身资源与调度优势,提供云边协同的模型部署与传输、弹性资源调度,以保证业务运行质量。 面对如此复杂的新兴业务,缺少业务专家、高级AI技术人才、ITCT专业人才,且相关人才分散在不同企业、不同岗位,需要长时间的协作研讨才能得出完整的方案,并分散执行。可利用GenAI/LLM技术与自动化ICT技术,实现复杂业务的意图识别、方案设计、自动编排调度和业务维护。
意图理解:基于GenAI/LLM技术,通过对话式的意图交互,实现运营商对客户的自动化意图理解、意图识别、意图沟通、意图补全、意图确认。 方案设计:基于GenAI/LLM技术,自动分析意图内容,基于资源情况匹配对应的算网资源,形成定制化资源方案,与客户确认后,自动生成服务订单。 智能编排:基于LLM多智能体技术、ODA意图与编排技术、GenAI代码生成技术,自动设计或匹配编排工作流,自动执行编排程序。 协同调度:创新算力网络网关与协议,统一感知、管控计算资源与网络资源数据,基于融合调度中心,协同调度算网设备。 意图维持:实时监控算网业务KPI数据,并与业务意图指标比对,当发现指标劣化时,自动生成业务优化的服务意图,并执行编排调度工作,回正劣化指标,保障业务质量。
客户通过聊天的形式与运营商交流业务想法,优化传统的人工加表单式业务模式; 运营商通过业务意图驱动,自动准备端到端的算网服务,自动调度各类所集成的异构算网资源; 运营商为客户生成定制化的算网环境,提供一站式的AI业务支持
对于行业客户:新型智能业务上线时间可以缩短60%;与按传统方式自行订购计算资源、租用网络带宽、自行研发AI应用相比,向运营商一点订购综合的算网服务可使整体资源成本降低30%,人工成本可以降低50%,尤其集中在对高成本的AI专家的需求。 对于运营商:自智网络评级从项目前的1.6级提升到项目后的3.6级;运营成本下降50%;资源利用率提升40%;60%的流程可以被自动化;单个大模型类智能业务可以带来$1~3 million的收入,增加此类业务的大规模支持可以有效提升整体收入水平。 对于合作伙伴:对于大模型、AI工具、AI应用等供应商来说,可以通过与运营商合作,增加产品曝光渠道和业务销售渠道,通过一点接入运营商平台,为匹配的业务提供专业化的服务能力,降低了合作伙伴AI业务服务的复杂性,并通过合作分成提升收入。