大模型平台多项标准发布,大模型基础设施高质量推进计划启动

文摘   2024-11-14 13:57   北京  

中国人工智能产业发展联盟第十三次全会

11月12日,中国人工智能产业发展联盟第十三次全会在北京召开。联盟全会上AI Infra工作组发布大模型平台多项标准、大模型基础设施高质量发展产业洞察,同时正式启动“大模型基础设施高质量推进计划”,并邀请首批成员单位华为、新华三进行大模型基础设施高质量发展实践演讲。

中国信通院人工智能研究所平台与工程化部主任曹峰汇报了AI Infra工作组成果并宣布启动“大模型基础设施高质量推进计划”。AI Infra工作组聚焦大模型基础设施高质量发展,构建了大模型平台标准体系,并形成了大模型基础设施高质量发展产业洞察,旨在深度挖掘大模型落地过程中的基础设施挑战和关键技术,为大模型基础设施高质量发展,提供标准化建议和指导,夯实大模型落地基石。



标准化方面,AI Infra工作组聚焦计算资源调度、数据处理、模型训练、模型推理等关键节点推动标准化工作。《大模型计算资源调度平台技术要求》全面梳理大模型计算资源调度平台的全流程功能要求和性能指标,致力于打造高效率、高可靠、可扩展的大模型算力资源供给。《大模型数据处理平台技术要求》提出大模型数据处理全流程环节需具备的技术能力,确保能够高效、高质量处理大规模数据。《大模型训练平台技术要求》整理了大模型训练平台的全流程功能要求和性能指标,面向微调、预训练场景旨在提升大模型训练效率、稳定性和易用性。《大模型推理平台技术要求》围绕大模型推理场景,以推理低时延、高吞吐、可扩展为目标提出技术和性能要求。《边缘人工智能平台技术要求和测试方法 第1部分:平台功能》围绕基础硬件能力、设备管理、数据管理、模型推理和应用管理等核心环节,提出通用功能要求。



产业研究方面,AI Infra工作组发布“大模型基础设施高质量发展产业洞察”。从AI存储、开发工具链、运维等层面对大模型基础设施面临的问题和关键技术进行了分析。AI存储方面,存在数据归集时间长、数据处理效率慢、推理记忆时间短等问题,要求AI存储具备数据编织能力、高扩展性、极致性能和长记忆能力。开发工具链方面,存在训练侧模型开发效率低、推理侧落地受硬件设备限制等问题,要求大模型开发工具链具备开发高效、模型压缩效率高、推理兼容性高等能力。运维方面,存在训练盲启动故障频发、集群器件种类多故障诊断效率低等问题,要求运维平台具备故障诊断与恢复智能化。大模型基础设施高质量建设需求呼唤全面、系统性的评价体系。大模型基础设施高质量发展产业洞察的全部内容将在《高质量大模型基础设施研究报告》中进行详细阐述。



为解决大模型基础设施面临的新挑战,推动大模型基础设施高质量建设,中国信通院以AI Infra工作组为基础,联合工商银行、中国联通、中国移动、华为、百度、新华三、蚂蚁集团、阿里云、腾讯云等正式发起“大模型基础设施高质量推进计划”,从需求角度出发,以提升大模型基础设施的质量与效能为目标,共同加快布局“高效计算调度+高性能AI存储+高通量网络+高效能开发平台+智能化运维平台”,助力大模型工程化落地。



新华三CTO办公室主任周宏毅受邀发表《汇聚产业力量,打造开放合作的新型智算中心》的主题演讲。阐述了标准化工作对于大模型基础设施生态发展的重要作用,同时提出大模型时代需要统一的标准和测试方法,汇聚多方力量,共同促进大模型基础设施产业的开放共赢,协同推进AI新质生产力的发展。



华为闪存存储领域总裁黄涛受邀发表《构建先进AI存储,助力AI大模型高质量发展》的主题演讲。阐述了AI存储赋能大模型落地过程中的关键技术和实践成效,同时提出大模型时代需要AI原生存储,产学研用需加强合作,共同引领AI原生存储发展方向,助力大模型高质量发展。



JION US

AI Infra工作组将致力于推动大模型高质量发展,夯实大模型基础设施供给能力,通过技术研究、标准编制、政策研究等工作,促进供需对接和应用落地。工作组持续开放报名,欢迎有意向的企业扫描下方二维码报名



联系人

刘老师 18610124860(微信同号)

liuxingchen@caict.ac.cn


曹老师 19910750972(微信同号)

caoxiaofeng@caict.ac.cn


董老师 15910462421(微信同号)

donghao@caict.ac.cn


END -


AI工程化推进委员会

2017年10月初,工业和信息化部正式批复中国信息通信研究院承建人工智能关键技术和评测工业和信息化部重点实验室(以下简称“部重点实验室”)。
中国信通院为进一步推动我国人工智能的工程化进程,依托部重点实验室成立了AI工程化推进委员会。委员会聚焦人工智能开发工具和平台,AI研发运营和管理,大模型应用,知识计算应用和AI数据集治理等技术方向,以产业活动、研究报告、标准和评估、最佳实践等手段,推动人工智能工程化相关的工具、系统、流程和治理体系的完善。
企业单位申请链接:

https://mp.weixin.qq.com/s/nZ_ZkBtk18lRyHuCkGEqCg


可信AI评测
“可信AI评测”是依托于中国信息通信研究院开展的第三方评估测试工作,涵盖人工智能产品服务评测、应用成熟度评测和可信风险评估三大模块,目前已完成人工智能评测标准体系,拥有权威的测试数据集和软硬件环境,可为企业单位出具技术产品测试报告和证书。
 最新文章