摘要:2024年10月24日,美国白宫发布了美国史上第一份关于人工智能的国家安全备忘录。同日,美国总统国家安全事务助理杰克·沙利文(Jake Sullivan)在美国国防大学(National Defense University)的座谈会上阐释了该备忘录的重点事项。本文基于该备忘录及沙利文的讲话,对美国《人工智能国家安全备忘录》的目标、落实举措和重点关注对象进行介绍。 关键词:人工智能,国家安全,战略竞争,技术创新 2024年10月24日,拜登政府发布了美国有史以来第一份关于人工智能的国家安全备忘录(NSE),题为《关于提升美国在人工智能领域的领先地位;利用人工智能实现国家安全目标;以及促进人工智能安全性、可靠性和可信度的备忘录》(下文简称《人工智能国家安全备忘录》),以响应2023年10月30日颁布的第14110号总统行政令《安全、可靠和值得信赖的人工智能开发与使用》(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)的相关要求。 沙利文在座谈会上表示,《人工智能国家安全备忘录》旨在推动联邦政府在国家安全领域广泛应用人工智能技术,并确保这一应用与美国的民主价值观相契合,同时重视对人权、民权、公民自由及隐私的保护。该备忘录还着眼于国际层面,力求围绕人工智能塑造国际规范,以反映与美国相同的价值观,并对可能通过开发和使用人工智能对美国国家安全构成威胁的对手采取反制措施。
三大目标及落实举措
《人工智能国家安全备忘录》设立了三大目标,以指导美国政府在人工智能和国家安全方面的活动。 目标1:确保美国在发展安全、可靠和值得信赖的人工智能方面引领全球开发尖端人工智能系统需要大量先进芯片。2022年8月,美国总统拜登签署了《芯片和科学法案》(CHIPS and Science Act),以促进对美国尖端半导体制造能力的投资,重建美国在半导体领域的领先地位。《人工智能国家安全备忘录》指出,美国应采取行动提高芯片供应链的安全性和多样性,确保在支持下一代政府超级计算机和其他新兴技术的发展时,将人工智能纳入考量范围。美国认为,其在人工智能领域的竞争对手企图利用经济和技术间谍手段来削弱其在人工智能领域的优势,并窃取其技术。《人工智能国家安全备忘录》将追踪和收集竞争对手针对美国人工智能部门的行动列为最高级别的情报优先事项,并指示美国政府相关实体及时向人工智能开发人员提供必要的网络安全和反间谍信息,以保障他们的发明安全。为了让美国最大程度地受益于人工智能,美国民众必须充分信任人工智能系统,相信它能安全、可靠地运行。为此,《人工智能国家安全备忘录》正式指定美国商务部所属美国国家标准与技术研究院(NIST)下辖的人工智能安全研究所(AISI)作为人工智能产业界与政府之间的主要联络机构。该研究所由精通人工智能技术及其发展趋势的专家组成。该备忘录还就人工智能安全研究所与国家安全机构(包括情报界、国防部和能源部)的合作制定了强化和精简的机制。《人工智能国家安全备忘录》提出,加大对“美国国家人工智能研究资源”(National AI Research Resource)试点项目的投入,以确保高校、公民社会和小型企业的研究人员能够开展有实质技术意义的人工智能研究。美国不能仅依靠少数大型企业来应对人工智能迅猛而复杂的发展趋势。相反,美国政府需要更多地为来自不同领域的人才和机构赋能并向他们学习,特别是那些致力于使人工智能更加安全、可靠和值得信赖的人才和机构。《人工智能国家安全备忘录》指示美国国家经济委员会(NEC)研究美国国内外人工智能人才的状况,并全面评估美国私营部门在人工智能生态系统中的相对竞争优势。 目标2:推动美国政府利用尖端人工智能来实现国家安全目标,同时保护人权和民主价值观《人工智能国家安全备忘录》不仅要求美国政府有效利用人工智能系统服务于国家安全使命,还明确规定美国政府必须以符合民主价值观的方式从事这项工作。该备忘录还为用于国家安全使命的人工智能治理和风险管理提供了前所未有的指导,对美国白宫管理和预算办公室(OMB)先前发布的针对非国家安全使命的指导进行了补充。《人工智能国家安全备忘录》指示美国政府建立“促进国家安全中人工智能治理和风险管理的框架”(Framework to Advance AI Governance and Risk Management in National Security),该框架已与备忘录同时发布。该框架提供了实施《人工智能国家安全备忘录》的进一步细节和指导,包括要求建立风险管理、评估、问责和透明度机制。这些要求的实现需要各机构监测、评估和减轻人工智能可能带来的风险,包括隐私侵害、偏见与歧视、个人和群体安全问题以及其他人权侵犯问题。该框架具有灵活性,可定期更新,以适应技术进步,从而确保未来人工智能的应用能以负责任和尊重人权的方式进行。《人工智能国家安全备忘录》要求加快前沿人工智能系统在美国国家安全机构中的应用,关键行动包括:各机构调整人力资源管理和招聘策略,以更有效地吸引和留住人工智能人才;各机构改变现有的采购和合同订立流程,以便私营人工智能企业能够更容易地参与到国家安全相关的项目中,促进公私合作;国防部和情报界审查现有政策与程序,特别是那些与公民隐私和自由等法律义务相关的政策与程序,以更新这些政策与程序,确保人工智能的使用既有效又符合法律和伦理标准;联邦机构审查与网络安全相关的现行政策与程序,并对其进行必要的修订,从而在不增加网络安全风险的条件下推广人工智能的应用。 目标3:推进人工智能领域的国际共识与治理《人工智能国家安全备忘录》以过去一年内国际社会在人工智能治理方面取得的实质性进展为基础。2023年10月,美国与七国集团(G7)盟友一同制定了史上第一份《国际人工智能行为准则》(International Code of Conduct on AI)。在英国布莱切利(2023年11月)和韩国首尔(2024年5月)举办的人工智能安全峰会(AI Safety Summit)上,美国与20多个国家一起提出了明确的人工智能使用原则。自《关于人工智能和自主技术负责任的军事利用的政治宣言》(Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy)于2023年2月在荷兰海牙首届“军事领域负责任使用人工智能”峰会(Responsible AI in the Military Domain Summit)上发布以来,已有近60个国家签署了该宣言。该宣言确立了军事人工智能能力的原则,旨在就军事人工智能负责任的开发、部署和使用达成国际共识。2024年3月,联合国大会一致通过了一项由美国牵头提出的决议——《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》(Seizing the Opportunities of Safe, Secure and Trustworthy Artificial Intelligence Systems for Sustainable Development),这是在联合国大会上磋商达成的首个独立决议,为人工智能治理确立了全球共识的方法,具有里程碑意义。《人工智能国家安全备忘录》指示美国政府与广大盟友和伙伴合作,继续建立和巩固稳定和负责任的人工智能治理框架,以确保人工智能的开发和使用遵循国际法;有效管理风险;实现民主价值;尊重人权、民权、公民自由及隐私;推动全世界从人工智能获益。该备忘录提出,美国在人工智能时代的成功不仅取决于美国的技术和创新优势,还取决于美国在制定全球规范、参与国际合作以及维护人权和民主价值观等方面的领导力。