★ 中国电子技术标准化研究院网络安全研究中心主任
姚相振
当前，以大模型为代表的人工智能技术持续快速发展、应用不断泛化和深化，为社会生产生活充分注入前所未有的新动能、新活力，激发全球各国广泛关注。然而，正如双刃剑之喻，人工智能在加快应用的同时，面临的安全挑战和风险也与日俱增，其深远影响或波及我国经济的繁荣基石、社会的和谐稳定乃至民众福祉。在此背景下，亟需构筑坚实的人工智能安全治理体系，妥善应对人工智能安全风险，保障人工智能安全、快速、有序发展。
遵循习近平总书记提出的“坚持以人为本、智能向善”的理念和宗旨，积极响应并贯彻落实《全球人工智能治理倡议》，全国网络安全标准化技术委员会制定《人工智能安全治理框架》（以下简称“《框架》”），于2024年全国网络安全宣传周正式发布。《框架》不仅标志着我国在人工智能安全治理领域取得了标志性进展，更为社会各界提供了指导蓝本和参考依据，有力促进了人工智能安全治理工作的持续深化与优化。聚焦于构建全方位、全链条的治理体系，旨在推动形成覆盖人工智能发展全周期、全要素的治理格局，是推动人工智能健康发展和规范应用的关键依据。
近年来，我国高度重视人工智能治理工作，习近平总书记在“一带一路”国际高峰合作论坛上亲自宣布提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，指出人工智能治理攸关全人类命运，强调要坚持发展和安全并重的原则看待人工智能。《框架》的发布为社会各界贯彻落实《全球人工智能治理倡议》提供了坚实的支撑，同时也成为推动人工智能安全治理工作向更深层次、更广泛领域迈进的关键力量。
《框架》系统总结并分享了我国人工智能安全治理工作中取得的研究成果和经验，为国内外各界提供了深入学习、准确理解及高效识别人工智能安全风险的详尽指南，为构建多方协同的全链条安全治理机制提供助力，为全球人工智能安全治理工作贡献中国智慧。《框架》的公开发布再次凸显了我国一直以来作为全球人工智能大国，以及人工智能安全治理引领者的负责任态度与担当。
《框架》主要包含四部分内容，一是治理原则，二是安全风险，三是技术应对与综合治理措施，四是安全开发应用指引。
《框架》首先阐述了人工智能安全治理的理念和原则，提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享四项原则，为开展人工智能安全治理工作开展提供整体思路。
按照风险管理思路，《框架》紧密结合人工智能特性，系统梳理了人工智能重大安全风险，为有效识别人工智能安全风险提供了基本依据。一是包括偏见歧视、训练数据被投毒、数据泄露等由人工智能自身技术缺陷和不足带来的内生安全风险，二是包括被用于违法犯罪活动、加剧信息茧房、制作虚假新闻等由人工智能被不当使用、滥用、恶意利用带来的应用安全风险。
针对不同类型安全风险，《框架》从技术、管理两方面提出防范应对措施，为应对人工智能安全风险提供整体指导。针对模型、数据、系统等方面的内生安全风险，提出安全开发运维、输出内容标识等技术应对措施，并推动负责任研发应用体系、供应链安全保障等综合治理措施。针对网络、现实、认知、伦理等方面的应用安全风险，提出安全防护机制、最终用途追溯等技术应对措施，并实施分类分级管理、人才培养等综合治理措施。
同时，《框架》还提出了人工智能安全开发应用的指引，为不同主体开展人工智能相关活动给出了具体的安全指引规范，包括模型算法研发者如何进行人工智能安全开发、服务提供者如何安全提供人工智能服务、重点领域使用者以及社会公众如何安全应用人工智能。
《框架》的发布为推动各方就人工智能安全治理达成共识、协调一致起到了促进作用。加强人工智能安全治理，需要社会各方的共同努力、紧密协作。在标准工作方面，积极推动人工智能安全标准工作，通过标准促进《框架》的有效落地实施。
一是加快构建并持续完善人工智能安全标准体系，统筹规划、合理布局，通过标准凝聚各方在人工智能安全方面的共识，助力构建开放、公正、有效的治理机制。
二是大力推动重点急需标准研制工作，包括生成式人工智能服务安全基本要求、训练数据安全规范、数据标注安全规范，以及人工智能生成合成内容标识方法等重点网络安全国家标准。
三是聚焦行业领域安全问题开展标准化工作探索，在金融、能源、电信、交通、民生等行业领域，组织相关单位开展标准化研究，防范化解人工智能安全风险，保障人工智能的应用安全。
四是加强《框架》及人工智能安全标准宣贯，面向网络安全企业、科研机构、地方主管部门，开展人工智能安全标准宣讲，同时利用新媒体、新渠道加强标准宣贯，推动标准落地实施。
end
来源 | 全国网安标委
责任编辑 | 赫敏
声明：本文由工业安全产业联盟微信公众平台（微信号：ICSISIA）转发，如有版权问题，请联系删除。
如需合作或咨询，请联系工业安全产业联盟小秘书微信号：ICSISIA20140417
往期荐读
