专家解读 | 鲁传颖：“十大议题”谋划全球人工智能治理的主要方向

科技 2024-11-29 19:14 北京

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 同济大学政治与国际关系学院教授、网络空间国际治理研究中心常务副主任鲁传颖

《全球人工智能治理研究报告》（以下简称《报告》）立足中国实践，放眼全球关切，不仅是中国在人工智能治理领域实践探索经验的总结，也是对未来全球层面规则建立的一种期待。《报告》首先定义了全球人工智能治理，指出“全球人工智能治理”是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。由此可见，人工智能治理是一个多利益攸关方共同努力的过程，其成果也有多个层次，多种内涵。

《报告》明确提出了人工智能全球治理的“十大议题”，内容广泛，整体上覆盖了当前全球治理领域的主要风险挑战。既有治理的核心原则，也有主要挑战；既有安全领域的问题，也关注到了发展层面的问题；既有国家与社会层面的问题，也包括技术层面。位列《报告》“十大议题”之首是主权问题，“人工智能技术的发展与国家主权问题密切相关。一方面,人工智能技术的战略性发展可用于维护国家主权、安全、发展利益。另一方面，国家主权也面临着来自技术自主性、算法模型、数据、内容、算力、供应链等安全风险的挑战。《报告》进一步指出，国际社会已经围绕着人工智能领域国家主权原则适用性问题、人工智能时代国家主权的内涵和外延变化以及如何维护国家主权、安全和发展利益正在展开相关讨论。由此可见，主权问题是人工智能治理面临的主要机遇与挑战。《报告》最后提出要建立人工智能全球治理体系，并且从目标宗旨、原则共识、行动路径三个方面展示了如何去达成这一目标。

《报告》整体上反映了中国关于人工智能全球治理的基本原则。即坚持伦理先行；坚持安全可控；坚持公平普惠；坚持开放包容；坚持和平利用。这些原则是人类命运共同体理念在人工智能领域的反映，是中国关于人工智能治理价值观的充分展现，具有重要的现实意义。

同时，《报告》也反映出构建关于人工智能全球治理“中国智慧”。第一，促进技术与产业的安全有序发展是中国价值观的基本导向。这反映出“发展是硬道理”是改革开放时代中国社会的底层逻辑，也是所有价值观的基础支撑。中方一直将汹涌而来的人工智能技术浪潮视为重大战略机遇，希望能够借助技术进步和产业发展，带动国家竞争力整体跃升和跨越式发展。因此，中国在人工智能治理方面的一个基本导向是：人工智能治理的目标是要减少阻碍人工智能技术发展的不利因素，推动技术的广泛利用，使得更多的生产部门和人们可以享受技术带来的红利。

安全是发展的前提，如果没有安全，发展取得的成果也会得而复失。中国政府高度重视人工智能安全问题，针对人工智能技术发展可能带来的潜在安全风险积极推进相应的治理体系建构。例如，面对生成式人工智能的迅猛发展，国家网信办联合七部委于2023年7月10日颁布《生成式人工智能服务管理暂行办法》，成为全球最早对AIGC治理做出贡献的国家之一。该办法深刻地体现了我国在人工智能治理领域的基本价值理念，一方面，通过管理办法阐明我国积极支持AIGC技术发展，推动其创造更大的商业、社会价值的立场。另一方面，又对其生成内容与服务提出了清晰的道德伦理要求，并且明确了监管主体与责权分配原则。面对新兴技术的挑战，中国坚持以包容审慎的态度应对新技术所带来的安全问题，保持发展与安全并重的基本立场，系统建构相应的治理体系。

在人工智能治理的中国价值观中，治理本身是为了促进技术和产业的安全有序发展，其目的要在始终推动发展进程的基础上，通过相关的规则建构，确保人工智能技术安全，增进人类的共同福祉。发展与治理密不可分，治理是为了更好的发展，脱离了发展的治理就将成为无源之水、无本之木。因此，在推进相关国内规则建设过程中，不能以牺牲技术发展和产业进步为代价，要始终在发展与安全，变革与稳定等多维度之间寻找合理的平衡点。

第二，建构“负责任的人工智能”是中国价值观的核心内涵。在国家新一代人工智能治理专业委员会颁布的《新一代人工智能治理原则——发展负责任的人工智能》中，将“负责任的人工智能”作为治理原则的主题加以描述。发展“负责任的人工智能”作为一个重要的标准贯穿于人工智能的研发与应用过程，构成了人工智能治理的中国价值观的核心内涵。

建构“负责任的人工智能”就要求从基础研发到实践应用，始终要保持在安全可控的范围内，所有的参与主体都要以负责任的态度维持相应的伦理和安全的标准。在伦理方面，要确保人工智能技术始终符合人类的价值观和伦理道德，应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。同时，要确保公民能够较为公平地享受技术进步的成果，推动各行各业转型升级，缩小区域差距，提升弱势群体适应性，努力消除数字鸿沟。在安全方面，则应不断提升人工智能透明度、可解释性、可靠性、可控性，逐步实现可审核、可监督、可追溯、可信赖等方面的要求。在数据获取方面则要尊重和保护个人隐私，充分保障个人的知情权和选择权，防止信息数据滥用。

人工智能研发者、使用者及其他相关方应以建构“负责任的人工智能”为目标，以高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范。建立人工智能问责机制，明确研发者、使用者和受用者等的责任。只有建立在这一价值观基础上的治理规则，才能够最大限度体现中方的意愿。

第三，坚持开放交流与多元协作是中国价值观的基本精神。人工智能技术和产业的发展是一个系统工程，需要广泛的交流与协作，这种协作既包括多元主体之间的分工协作，又包括全球范围内的充分交流与资源分享。在长期的实践中，中国充分理解开放交流与多元协作对于人工智能技术发展的重要意义，它也构成了人工智能治理的中国价值观的基本精神。

多元协作，指的是人工智能技术的发展需要跨学科、跨领域、跨地区、跨国界的充分交流，要积极推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动。在协作互动过程中，应以公正的态度回馈所有的贡献者，以公平的精神保障利益相关者的权益，充分释放各主体的潜能，提供均等的机会。

开放交流，则强调在人工智能领域，世界各国所处的发展阶段不同，人工智能发展存在着各种独特的应用场景，这就需要在交流沟通的基础上开展合作研究和对话，不断推动国际合作，在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范。

综上所述，当前全球人工智能发展已经进入了新阶段，技术的进步正在深刻改变人类社会生活，人类正在进入到一个全新的世界。面对全新的局面，如何确保人工智能技术的发展安全、可靠、可控，且始终运行在向善的轨道上，已经成为中国与世界需要共同面对的挑战。在理论研究与实践磨合的基础上，中方逐渐形成了具有中国特色的治理思路与价值观。在这一价值观的指引下，中方将不断提升智能化技术手段，优化管理机制，完善治理体系，并以此为思想的锚定出发点，参与到国际规则的制定中去。以此促进新一代人工智能健康有序发展，更好协调发展与治理的关系，确保人工智能推动经济、社会及生态可持续进步，共同建构人工智能领域的人类命运共同体。

（来源：国际在线）

分享网络安全知识强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情

http://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664230933&idx=3&sn=4c1a6d780fedf3d1500c22994ad602f3

中国信息安全

《中国信息安全》杂志，介绍国内外最新网络安全动态，深度解读网络安全事件。

最新文章

招聘启事 | 中国信息安全测评中心招聘安全测评人员

发布 | 中共中央办公厅国务院办公厅关于数字贸易改革创新发展的意见

专家解读 | 鲁传颖：“十大议题”谋划全球人工智能治理的主要方向

解读 | ICANN前董事会成员解读《全球数字契约》

聚焦 | 2024AI数字安全发布会在上合示范区成功召开

前沿 | 人工智能热潮可能正遭遇瓶颈

评论 | 治理涉企谣言，落实数字平台“看门人”职责

报名近尾声！千余支队伍将竞争第二届“长城杯”铁人三项赛

发布 | 七部门联合印发《推动数字金融高质量发展行动方案》（附全文）

国家网信办网络法治局：筑牢网络暴力治理法治之基

专家观点 | 适应网络空间技术特征有效捍卫我国网络主权

前沿 | 深入探讨网络暴力违法犯罪行为的认定标准

国际 | 数据主权博弈与跨境管辖权冲突的法律困境

前沿 | 网络水军的发展演进及其特征研究

专题·网暴治理 | 在法治轨道上持续推进网络暴力治理

杂志征订 | 2025年《中国信息安全》杂志征订开始！

专家观点 | 李峥：科技强者恒强？AI可能例外

观点 | 坚持依法治网推进网络综合治理

评论 | 压实主体责任，规范算法技术

前沿 | 构建“全链路”数据质量管控体系，夯实数据应用底座

评论 | 让自动驾驶汽车行驶在法治轨道上

发布 | 四部门联合印发《电信网络诈骗及其关联违法犯罪联合惩戒办法》（附全文）

360发布大模型安全警报：近40个漏洞易被利用，60美元即可投毒

国家安全部：警惕深度伪造技术带来的安全风险

图说 | 《电信网络诈骗及其关联违法犯罪联合惩戒办法》

行业 | 系统复盘积极展望百家银行齐聚畅谈数字金融顶层设计与精准施策

评论 | 让算法更具向上向善的价值观

关注 | 网络婚恋诈骗手段翻新需提高警惕

全球视野 | 国际网安快讯（第38期）

行业 | 360发布全球首份《大模型安全漏洞报告》，曝光近40个大模型相关安全漏洞

关注 | 四部门开展“清朗·网络平台算法典型问题治理”专项行动

关注 | 建设100个以上可信数据空间，这份文件以可信安全促要素流通

前沿 | 推动构建网络空间命运共同体迈向新阶段

专家观点 | 法律监管+技术人工审核：提升AI内容输出可控性

国际 | 印度惊现“数字逮捕”电诈骗局

关注 | 多名网络主播被约谈！

发布 | 国家数据局印发《可信数据空间发展行动计划（2024—2028年）》（附全文）

专家解读 | 什么是可信数据空间？国家针对这一新型数据基础设施进行布局

一图读懂 | 可信数据空间发展行动计划（2024—2028年）

《中国信息安全》2024年第9期目录

聚焦乌镇 | 全球AI大模型攻防挑战赛乌镇收官：十强选手现场用AI对抗AI 保护大模型安全

警惕 | 针对我国用户的“银狐”木马病毒出现新变种！

通知 | 国家数据局就《国家数据基础设施建设指引（征求意见稿）》向社会公开征求意见（附全文）

重点防范！又公布一批境外恶意网址和恶意IP

关注 | 《2024中国数字银行调查报告》发布

关注 | 缅北规模化电诈园区全部被铲除

前沿 | 《密码法》颁布五周年：法治成效、实施难点与未来走向

聚焦乌镇 | 《中国互联网发展报告2024》和《世界互联网发展报告2024》蓝皮书发布

聚焦乌镇 | 2024年世界互联网大会乌镇峰会主论坛举行

外交部：中方愿与各方深化数据跨境流动领域交流合作

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉