智能座舱、AI手机、AI PC等AI产品已成为智能终端产业科技竞争的主赛道。端侧本地智能计算以其低延迟、高隐私性的优势,结合设备的环境感知能力与多样化交互方式,极大地提升了用户的使用体验,也推动了AI终端向生产力工具迈进。在大模型加持下,端侧应用场景持续拓展,典型应用不断涌现,核心应用逐渐收敛显现。然而,端侧计算设备在运行大模型和生成式AI应用时面仍临诸多挑战,设备的模型适配、性能优化和资源调度等能力直接影响消费者的AI体验。计算速度缓慢、耗电量高、发热量显著提升等问题,严重削弱了消费者的应用体验。
中国信息通信研究院(简称“中国信通院”)长期研究端侧智能计算发展态势,积极推进AI产品基准测试研究工作,联合中国计量科学研究院、行业终端企业牵头立项制订国家计量技术规范《面向人工智能大模型计算能力的终端性能测试方法》(国家标准),围绕端侧大模型典型应用制订科学计算基准。该规范围绕计算效率、响应时间、内存占用、功耗、能效等核心计算性能指标,提出端侧计算设备在执行生成式AI和大模型计算任务时的性能测试方法,测量方法可溯源、可复现,解决端侧异构系统下基准测试标准离散性问题,真正实现产品性能的科学度量。
为进一步推动端侧智能计算技术进步,促进端侧智能产品和应用的高质量发展,为行业和消费者提供AI产品性能评价的可信参考。中国信通院正式启动首批“端侧智能计算领跑计划”活动,此次活动旨在征集业界领先的端侧智能产品,遴选在端侧智能计算领域表现卓越的案例,树立行业标杆,推动产业的创新与发展,同时为消费者选择性能更优异的智能AI终端产品提供更具权威性的参考。
活动组织
中国信息通信研究院
中国检验认证集团北京有限公司
应征主体
本活动面向端侧智能产品制造与计算平台、框架研发企业,应征主体的产品应具备大模型和生成式AI本地部署和运行能力,产品具备自主知识产权。
赛道设置
本次活动面向不同产品形态设立以下五个主要赛道:1. 智能手机;2. 个人计算机(PC);3. 平板电脑;4. 智能座舱产品;5. 其它终端AI计算平台、操作系统和软件框架等。
活动规则
主办方发布大模型计算任务,包括两种类型:经典计算任务(基础模型)和开放计算任务(智能应用)。应征主体按照要求完成指定大模型计算任务,并在规定时间内向主办方提交产品及相关文件。主办方将对所有申报设备依据标准进行性能测试评估,遴选出高性能优秀产品作为优秀案例。
活动流程
1. 报名阶段
即日起截至2025年2月28日,填报附件“端侧智能计算领跑计划报名表”(点击“阅读原文”获取),按要求填写报名表,联系工作人员后发送至指定邮箱(邮件主体格式:端侧算力领跑计划报名-应征单位简称)。报名确认后,由工作人员提供“端侧智能计算领跑计划任务书”,提供具体计算任务及相关规则。
2. 提交阶段
(1)邮寄申报的计算设备至主办方指定地址,活动结束后统一寄还;(2)根据计算任务要求,提交模型文件、源代码等相关文件。所有提交的源代码、模型文件及评估结果仅用于本次活动评估,主办方与应征主题签订保密协议,将严格保密,不会用于其他用途。
3. 测评阶段
依据标准测试方法,基于中国信通院端侧大模型计算性能基准测试工具AI-Device Bench,对申报设备开展测试评估。结合计算性能测试结果,分赛道依据标准给出分级测试结果。
4. 结果发布
根据评测情况,对达到标准分级要求的“端侧智能计算卓越级”“端侧智能计算优秀级”产品和方案,在2025年6月初上海世界人工智能大会等平台发布。
联系方式
有任何疑问或需要进一步了解活动详情,请联系:
刘老师
18800135607(微信同号)
张老师
13601061092(微信同号)
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
推荐阅读