扫码订阅《中国信息安全》
邮发代号 2-786
征订热线：010-82341063
一、立足本土治理认知，构建风险分类体系
总体国家安全观是国家安全工作的指导思想，融合贯通人民安全、政治安全、国家利益至上的有机统一，不断推动中国特色国家安全理论构建和实践。人工智能技术的应用已经超越产业领域，不断向军事、政治、经济等领域扩散，展现出巨大发展潜力同时也意味着全面而深刻的安全格局变化。人工智能技术天然地与安全议题联系，其适用性的延伸使得在认知领域、生产领域的内生风险逐渐显现，通用人工智能已被证实可以介入致命武器生产、意识形态争端或深刻地改变社会生产结构。人工智能安全涉及综合网络安全、数据安全等多个方面，直接关系到国家政治、经济活动的安全可控。特定的安全领域往往指向人工智能技术的应用服务场景，人工智能安全治理需要在综合治理框架内展开，避免治理缺漏与职能重叠。《框架》以总体国家安全观为基础，结合人工智能安全治理认知与实践经验，构建本土安全风险分类体系，推动形成人工智能全周期安全治理格局。
二、尊重技术发展规律，践行双重治理路径
近年来，全球各国积极建立人工智能风险分类标准，旨在精准规制技术风险。美国国家标准与技术研究院（NIST）发布了《人工智能风险管理框架》（AI RMF 1.0）系列指南，为安全、可靠和可信的人工智能开发和使用提供技术方案。AIRMF 系列指南关注人工智能开发过程中的数据隐私保护、环境资源消耗等，提出治理人工智能被用于制作煽动仇恨、暴力、儿童色情等内容的风险。新加坡于 2024 年 5 月发布《生成式人工智能治理模型框架》，从数据、可信开发与部署、事件报告等方面入手，主张建立问责制以确保人工智能技术造福公众。《框架》采取有别于上述文件的全面视角，提出技术应对和综合治理的双重路径，分别从微观和宏观两个层次指导风险治理，为产业一线提供行动指南的同时，还为政策制定、战略部署提供参考视角。
三、开展治理系统工程，着力引导智能向善
《框架》是一项系统工程的阶段成果，它以治理实践形成的认知为基础，形成一系列原则和规则，提出了不同路径下的治理手段。它体现了我国人工智能治理进入理念变革、制度创新、手段统合的新阶段，凝聚人工智能治理的本土经验和智慧。该系统工程应当不断更新和完善，以适应新的治理需求。人工智能技术对生产模式、劳动力市场及文化产业发展等方面具有深远影响，实施有效的安全治理不仅是保障技术安全可控性的必要条件，更是推动社会经济健康发展的关键因素。《框架》嵌入在我国“以人为本、智能向善”为核心的人工智能治理理念中，体现包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对和开放合作、共治共享四大治理原则，并且是《全球人工智能治理倡议》的细化行动指南，对于产业发展和监管意义重大。
四、自信展示中国智慧，积极融入国际治理
在构建自身的人工智能治理体系过程中，我国始终秉持开放合作的态度，积极融入全球人工智能治理大局。《框架》秉承了《全球人工智能治理倡议》对广泛参与、协商一致、循序渐进的承诺，提出开放合作、共治共享原则，呼吁在全球范围内推动人工智能安全治理合作、共享最佳实践，倡导建立跨学科、跨领域、跨地区、跨国界的对话、合作平台。它不仅是国内治理体系的一部分，更应当被视为全球人工智能治理体系的重要组成部分。《框架》展现了我国在全球治理领域内的积极参与者角色，表达了我国希望在推进技术革新、发挥人工智能潜能的同时，控制潜在安全隐患、减少不利后果的愿望。《框架》自信地展示了我国对人工智能治理的独特见解与对策，再次体现了我国融入国际治理的积极态度，是我国人工智能国际治理实践的崭新成果。在《框架》的构想下，中国将不断深化人工智能国际治理合作，促成国际共识的形成，构建人类共同价值观和命运共同体。
（本文刊登于《中国信息安全》杂志2024年第10期）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
《中国信息安全》杂志倾力推荐
“企业成长计划”
点击下图 了解详情
