案例说 | 中国信通院MaaS加速企业大模型落地

文摘   2024-10-30 15:58   北京  




案例说|中国信通院MaaS加速企业大模型落地

齐静 中国信通院人工智能研究所工程师





随着大模型技术日益成熟,并向各行各业加速渗透,模型即服务(MaaS)作为推动大模型落地的重要技术路径,正逐渐成为行业关注的焦点。然而,在模型服务的应用过程中,服务质量的衡量标准不一、平台选型困难、行业定制需求复杂等问题逐渐显现,亟需一套全面的标准体系来规范和指导MaaS的发展。


中国信通院(以下简称“信通院”)紧跟MaaS领域最新发展趋势,联合产业各界编写发布了《MaaS框架与应用研究报告(2024年)》,并吸纳80余家企业参与工作,初步构建了MaaS生态。在研究工作中对MaaS的建设有以下侧重点关值得关注:


一是模型服务质量保障是MaaS规模化发展的基础。

当下诸多大模型均以MaaS的方式提供服务,为大量的中小型企业的AI应用提供可便捷调取的模型服务,而服务的时延、吞吐量、稳定性等性能时刻关系到终端用户的体验,同时良好的服务性能将促进MaaS规模化、普惠化发展,使得人人都用得起大模型。


二是平台服务应兼顾模型定制能力与服务运营管理。

MaaS平台在提供多样化模型服务的同时,需兼顾模型的个性化定制与服务的全方位运营管理。从数据工程到模型调优,再到服务的部署、测试与日常运营,每个环节的高效协同是确保平台竞争力的关键。兼顾定制化的灵活性与运营管理的标准化,能让平台更好地适应不同企业的具体需求,实现资源的优化配置。


三是基于多模型服务的应用开发与已有业务融合发展。

在大模型落地应用阶段,当前企业内部主要以大模型接入已有业务系统或应用的方式为主,在不改变用户使用习惯的情况下,引入大模型能力以提升工作效率。基于此,当下大模型应用的开发主要聚焦在应用服务构建和应用服务集成两方面,前者通过调用多模型服务和各类组件完成专属场景的应用服务搭建,后者将应用服务与现有业务系统融合,二者共同推动企业数智化转型发展。


中国信通院MaaS研究工作得到行业各方的广泛关注和积极参与,聚焦模型定制、模型服务部署、模型库管理、模型应用开发及服务协议在内的全栈能力,牵头编制模型服务协议(SLA)、模型库及管理、模型服模型平台、模型服务平台、模型应用开发平台等多个标准,同时依托工信部应用测评重点实验室建设评估能力,对外提供MaaS能力评估服务。中国信通院将持续聚焦MaaS领域,开展技术研究、标准研制及产业生态活动,欢迎各界专家老师参与。


业务联系人

齐老师 15501080011(同微信)

李老师 18811506316(同微信)

秦老师 13488684897(同微信)


END -


AI工程化推进委员会

2017年10月初,工业和信息化部正式批复中国信息通信研究院承建人工智能关键技术和评测工业和信息化部重点实验室(以下简称“部重点实验室”)。
中国信通院为进一步推动我国人工智能的工程化进程,依托部重点实验室成立了AI工程化推进委员会。委员会聚焦人工智能开发工具和平台,AI研发运营和管理,大模型应用,知识计算应用和AI数据集治理等技术方向,以产业活动、研究报告、标准和评估、最佳实践等手段,推动人工智能工程化相关的工具、系统、流程和治理体系的完善。
企业单位申请链接:

https://mp.weixin.qq.com/s/nZ_ZkBtk18lRyHuCkGEqCg


可信AI评测
“可信AI评测”是依托于中国信息通信研究院开展的第三方评估测试工作,涵盖人工智能产品服务评测、应用成熟度评测和可信风险评估三大模块,目前已完成人工智能评测标准体系,拥有权威的测试数据集和软硬件环境,可为企业单位出具技术产品测试报告和证书。
 最新文章