随着数字化转型和智能化升级的加速推进,企业对人工智能技术的应用愈发深入。为了满足特定业务场景的需求,越来越多的企业选择利用企业自身数据开发定制化的大模型,以期在激烈的市场竞争中获得优势。目前,模型服务平台不断涌现,为企业提供了一个集中的、高效的环境,用于开发、训练、优化以及部署AI模型。通过集成强大的资源、算法库及工具链,简化了从数据预处理到模型上线的全过程,帮助企业更快地开发部署企业自身的大模型。
然而,随着企业级大模型服务平台的广泛应用,性能问题逐渐浮出水面。模型训练效率低下、推理延迟高、资源利用率、资源故障率高不足等问题频发,严重影响了企业的业务响应速度和运营效率。因此,如何科学、客观地评价企业级大模型服务平台的性能,已成为企业普遍关注的焦点。
因此,一个面向企业级大模型服务平台性能分级评价模型的标准显得尤为重要。该标准旨在为企业级大模型服务平台的性能评价提供一套科学、统一、可操作的分级评价体系,涵盖模型训练速度、推理效率、资源利用率等关键性能指标。
在此背景下,中国信息通信研究院(以下简称“中国信通院”)正式启动《企业级大模型训推服务平台性能分级评价模型》标准的编制工作。该标准将基于行业实践和技术发展趋势,制定一套全面、细致的性能评价标准和分级体系。通过制定并遵循此标准,企业可以更加清晰地了解平台在性能方面的优势和不足,从而采取针对性的优化措施,提升整体运营效率。
有意向参与编制的单位及专家请将如下报名信息反馈到 gaoyuan1@caict.ac.cn。感谢您的支持!
单位 | 职务 | 姓名 | 联系电话 | 联系邮箱 |
联系人:
中国信通院 云计算与大数据研究所
李昂 13651208710(微信同) liang3@caict.ac.cn
高源 18801027714(微信同) gaoyuan1@caict.ac.cn