美国首个关于人工智能的国家安全备忘录发布,其前沿人工智能治理模式有何特点?

文化   2024-11-19 18:09   北京  


编者按

2024年10月24日,基于美国为推动人工智能的安全、可靠和可信发展所采取的关键步骤,美国政府发布了首个关于人工智能(AI)的国家安全备忘录(NSM)。随NSM发布的还有一份相关的配套文件《国家安全领域人工智能治理与风险管理框架》(Framework to Advance AI Governance and Risk Management in National Security),进一步细化了美国在国家安全领域的人工智能治理措施。本文摘取《前沿人工智能:发展与治理》一书中关于美国前沿人工智能治理模式的主要特点,供读者参考。


美国是人工智能技术发展最迅速、应用最前沿的国家之一,在人工智能治理中更加鼓励发展和创新。综合前沿人工智能的治理进程来看,美国人工智能的治理模式主要呈现强调发展、去中心化、以“软法”为主等特点。

第一,美国在人工智能发展和安全的平衡中更加重视发展问题。具体来说,美国主张“有益的人工智能”,认为“负责任的人工智能应用”可以帮助人类应对一系列紧迫挑战,使世界更加繁荣、高效、创新和安全。其人工智能治理理念更加关注收益与风险、发展和安全的平衡,强调在“公平”的竞争环境中通过市场化、灵活性治理方式兼顾人工智能的创新与安全。相比之下,美国人工智能治理原则涉及安全问题之外的发展问题,关注的范围比欧洲更广。
第二,美国的人工智能治理模式呈现典型的分散化特征。美国人工智能治理的具体实施仍基于现有机制,依靠各政府部门对各自职能范围内的人工智能应用场景进行管理。例如,美国联邦贸易委员会(Federal Trade Commission,FTC)在2023年5月发布的指南中将人工智能在商业实践中产生的深度伪造、过度推荐等有关消费者保护的内容纳入自身管辖范围;美国电信和信息管理局(National Telecommunications and Information Administration,NTIA)在 2023年4月出台的《AI问责政策(征求意见稿)》中针对人工智能系统的数据访问权限、问责机制等进行布局。
第三,美国的人工治理以非强制性的“软法”为主,希望通过市场化的手段治理人工智能。具体来说,白宫管理和预算办公室、科学和技术政策办公室、国内政策委员会、国家经济委员会在2020年联合发布《人工智能应用规范指南》。该指南不但明确要求“为了加强美国在人工智能领域的创新优势,各主管部门应确保美国企业不受美国监管制度的不利影响”,还提出“欧洲及美国盟友应避免采用过度干预、扼杀创新的人工智能监管方式”。受此影响,美国在联邦政府层面的人工智能治理手段以行政令、白皮书、政策指南等不具备强制性的“软法”为主,倾向于通过行业准则、企业自治等市场化的方式控制人工智能风险。只有加利福尼亚、伊利诺伊、印第安纳、康涅狄格、得克萨斯等少部分地区通过州内立法对人工智能的隐私保护、透明度等问题提出了明确要求。
(整理/杨智童)

(摘自《前沿人工智能:发展与治理》一书,有删节)

前沿人工智能:发展与治理

梁 正 主编
中国发展出版社

图书简介

《前沿人工智能:发展与治理》一书由清华大学文科资深教授、博士生导师,清华大学苏世民书院院长薛澜担任顾问。清华大学公共管理学院教授,人工智能国际治理研究院副院长,人工智能治理研究中心主任梁正担任主编。本书在解读前沿人工智能的技术原理、功能特征的基础上,呈现我国人工智能大模型的最新发展动态,以生动案例展现“人工智能+多场景”的价值前景,识别其在技术开发、部署和应用中产生的风险挑战,并对美国、欧盟等经济体的人工智能治理模式进行比较,深入剖析人工智能国际治理现状与挑战,提出构建前沿人工智能治理体系的发展方向和未来范式,力求为人工智能健康发展和有效治理提供有力支撑和有益参考。


目 录 (向上滑动阅览)


第一章 读懂前沿人工智能
一、前沿人工智能:从 ChatGPT 到 Sora
(一)人工智能的起源与发展
(二)前沿人工智能的内涵
二、前沿人工智能的特征与功能
(一)前沿人工智能的特征
(二)前沿人工智能的功能
三、前沿人工智能的优势与局限
(一)前沿人工智能的优势
(二)前沿人工智能的局限
第二章 前沿人工智能的发展与应用
一、前沿人工智能的发展现状
(一)数据要素发展现状
(二)算力要素发展现状
(三)算法与模型发展现状
(四)前沿人工智能:发展与治理
二、前沿人工智能的产业生态概况
(一)前沿人工智能的产业发展现状
(二)前沿人工智能的商业部署现状
(三)前沿人工智能的产业变革趋势
三、前沿人工智能的应用前景
(一)功能性应用场景
(二)水平领域应用场景
(三)垂直领域应用场景
四、“人工智能 +”行动的产业实践
(一)人工智能 + 工业
(二)人工智能 + 政务
(三)人工智能 + 教育
(四)人工智能 + 金融
(五)人工智能 + 医疗
第三章 前沿人工智能的潜在风险…
一、风险分类的标准
二、基于技术本身的风险
(一)数据隐私泄露
(二)算法歧视和偏见
(三)内容谬误
三、基于技术开发的风险
(一)数据产权问题
(二)心理问题
(三)环境问题
四、基于技术应用的风险
(一)数字鸿沟和社会不公平
(二)知识产权纠纷
(三)深度伪造
(四)意识形态渗透
(五)引发失控风险
(六)威胁国家安全
第四章 前沿人工智能的国际治理
一、前沿人工智能治理模式的国际对比
(一)美国前沿人工智能治理模式
(二)欧洲前沿人工智能治理模式
(三)其他国家前沿人工智能治理模式
(四)对中国人工智能治理的经验启发
二、前沿人工智能国际治理体系的构建
(一)形成基础:前沿人工智能潜在风险的国际性共识
(二)面临挑战:前沿人工智能发展与治理的国际分歧
(三)建立国际治理体系的切入点:搭建开放、包容的国际平台
(四)中国参与前沿人工智能国际治理体系建设前沿人工智能:发展与治理
第五章 前沿人工智能的治理体系构建
一、概念与逻辑——如何认知人工智能治理
(一)人工智能治理的定义
(二)人工智能治理的多元层次与视角
二、协同与敏捷——如何构建人工智能治理体系
(一)国家人工智能治理面临的治理困境
(二)两条腿走路:发展与治理的平衡
(三)行动协同:推动多元主体参与治理
(四)模式构建:推动完善敏捷治理
三、历史与超越——应对人工智能治理的新变化
(一)我国人工智能适应性治理的范式变革
(二)我国人工智能治理的范式超越
附录:2023 年人工智能大事件回顾
一、中国大模型篇
二、中国 AI 政策篇
三、国际治理篇
四、科技巨头篇


本公众号版权归中国发展出版社所有。如需转载或引用本文内容,请联系我们,并注明转载来源。

关注我们


中国发展出版社成立于1989年,是直属于国务院发展研究中心的智库型出版传媒集团。在国务院发展研究中心领导下,充分发挥直属高端智库和自身服务链完整的优势,正致力于建设集智库传播、智库研究、智库会议、智库园区为一体,具有一流竞争力和影响力、提供高质量发展解决方案的智库型出版传媒集团,为中心高端智库建设提供有力支撑和国家高质量发展作出积极贡献。

中国发展出版社除图书出版外,旗下还有《中国发展观察》《中国经济年鉴》《中国经济报告》《新经济导刊》等期刊,国研文化传媒集团股份有限公司(国研智库)、国研智库创新科学园投资股份有限公司、北京国研智库管理咨询有限公司、北京智研未来信息咨询中心

地址:北京经济技术开发区荣华中路22号院亦城财富中心1号楼7-8层
电话:010-68990622  82097226  67889142
网址:https://www.develpress.com

中国发展出版社
中国发展出版社成立于1989年,直属于国务院发展研究中心,正致力于建设集智库传播、智库研究、智库会议、智库园区为一体,具有一流竞争力和影响力、提供高质量发展解决方案的智库型出版传媒集团。
 最新文章