摘要
长期以来,美国军方一直依靠技术优势来确保其在冲突中的主导地位并保障美国的国家安全。然而,近年来,技术的迅速发展及扩散已经威胁到美国传统的军事优势。美国国防部(DOD)采取了一系列举措来遏制这一趋势。例如,2014年,美国国防部发布第三次抵消战略,旨在将新兴技术用于军事和安全目的相关的战略、战术与作战理念。为支持这一战略,美国国防部建立了许多专注于国防创新的机构,包括国防创新小组和国防战争博弈联盟小组。2021年11月,美国国会研究服务部(CRS)发布《新兴军事技术:背景和美国国会面临的挑战》报告。报告指出,美国在许多新兴军事技术领域处于领先地位。然而,作为主要战略竞争对手的中国和俄罗斯也在稳步开发先进的军事技术。随着这些技术被整合到国内外军队部署之中,可能对未来国际安全产生重大影响,因此已成为美国国会在资金和项目监管方面的重要关注点。报告共选取了人工智能(AI)、致命的自主武器、高超声速武器、定向能武器、生物技术和量子技术6类新兴军事技术,就美国、中国和俄罗斯在上述新兴军事技术领域发展的背景和现状进行分析,并且讨论了国际组织监控或监管这些技术的相关举措,以及美国国会所面临的挑战,包括新兴军事技术的资金投入和稳定性、管理结构、与招聘和吸引技术工人相关的挑战、快速发展的两用技术的采购过程、保护新兴技术免遭盗窃和转移,以及新兴技术的治理和监管。本文选取了其中的人工智能、生物技术和量子技术进行论述。
一、人工智能(AI)
尽管美国政府对人工智能(AI)没有给出官方定义,但政策制定者通常使用AI一词来指代具有人类水平认知能力的计算机系统。人工智能分为狭义人工智能和广义人工智能。狭义的人工智能系统只能要求被训练完成特定的任务;而广义的人工智能系统将能够执行广泛的任务,包括那些没有接受过专门训练的任务,但广义的人工智能系统尚不存在——而且可能永远不会存在。
报告称,美国及其竞争对手目前正在将狭义的人工智能应用于军事领域。此类应用包括但不限于情报、监视和侦察、后勤、网络操作、命令与控制以及半自动和自动驾驶汽车。这些技术部分旨在增强或取代操作人员,使他们能够执行更复杂和认知要求更高的工作。此外,支持人工智能的系统可以:(1)比依赖操作人员输入的系统反应更快;(2)用于分析的数据量呈指数增长;(3)启用新的作战概念,例如集群(即无人驾驶车辆自主协调以完成任务的合作行为),可以通过压倒对手防御系统赋予作战优势。
然而,狭义的人工智能可能会带来许多挑战。例如,此类系统可能会因其训练数据或模型而受到算法偏差的影响。研究人员一再发现人工智能面部识别程序中存在种族偏差的例子,因为系统训练的图像缺乏多样性,而一些自然语言处理程序已经产生了性别偏见。在军事背景下这种偏见可能对人工智能应用产生重大影响。例如,将未被发现的偏见纳入具有致命影响的系统可能会导致身份错误和平民或非战斗人员的意外死伤。狭义的人工智能算法所产生的不可预测和非常规的结果,如果被纳入军事系统,还可能导致意外故障。而且,最近的新闻报道和分析强调了人工智能在实现越来越逼真的照片、音频和视频数字伪造(俗称“深度伪造”)方面的作用。对手可以在“灰色地带”冲突中部署这种AI,并将其作为信息战的一部分。深度伪造技术可用于对抗美国及其盟国,以生成虚假新闻报道、影响公众言论、削弱公众信任并试图勒索政府官员。
| 图片来源:百度图片,人工智能技术
(一)美国
美国国防部对人工智能的投资从2016财年的略高于6亿美元增至2022财年的约8.74亿美元,该部门维护着600多个活跃的人工智能项目。根据“2019财年国防授权法案”,美国国防部通过建立联合人工智能中心(JAIC)来协调超过1500万美元的项目;JAIC获得了“2021财年国防授权法案”第808节的采购授权。JAIC已经开展了多项AI国家任务计划,包括预测性维护.、人道主义援助和救灾、作战人员健康和业务流程转型。此外,JAIC还管理着一个“联合共同基金会”,这是一个“基于云的安全人工智能开发和实验环境”,旨在支持全部门人工智能能力的测试和部署。
“2019财年国防授权法案”还指示国防部发布人工智能开发和部署的战略路线图,并制订“适当的道德、法律和其他政策指南,供国防部管理人工智能系统和技术在作战中的开发与使用”。为支持这一任务,美国国防创新委员会(DIB)起草了关于人工智能的道德使用建议。基于这些建议,国防部随后通过了5项道德规范:责任、公平、可追溯性、可靠性和可治理性。2021年5月26日,国防部副部长凯瑟琳·希克斯(Kathleen Hicks)发布了一份备忘录,为执行负责任的人工智能(RAI)的实施提供指导,并遵守伦理原则。由JAIC负责制定和实施执行RAI的战略、指导和政策。
美国依据“2019财年国防授权法案”第1051条成立国家人工智能安全委员会,对军事相关人工智能技术进行全面评估,并为加强美国竞争力提供建议。2021年3月,该委员会向国会提交了最终报告,大致提供了5个主要工作方向的建议:(1)投资研究和开发;(2)将人工智能应用于国家安全任务;(3)培训和招聘人工智能人才;(4)保护和建设美国的技术优势;(5)组织全球人工智能合作。
(二)中国
报告称,中国被广泛认为是美国在人工智能领域最接近的竞争对手。中国2017年的“下一代人工智能发展计划”将人工智能描述为一种“战略技术”,已成为“国际竞争的焦点”。而近期中国在这一领域取得的成就表明其具有实现人工智能发展目标的潜力。特别是,中国一直在寻求语言和面部识别技术,并计划将其中的许多技术整合到国内监控网络中。这类技术可用于反间谍活动和帮助定位军事目标。除了开发各种类型的空中、陆地、海洋和海底自主军用设备外,中国还在积极探索集群技术,该技术可用于压制敌方导弹防御拦截器。此外,来自开源的出版物的信息表明,中国正在开发一套用于网络操作的人工智能工具。
| 图片来源:百度图片,人工智能技术
(三)俄罗斯
俄罗斯总统普京曾表示,“谁成为人工智能的领导者,谁就将成为世界的统治者”。然而,目前俄罗斯人工智能的发展明显落后于美国和中国。为弥补这一差距,俄罗斯发布了一项国家战略,概述了有关人工智能的专业知识、教育计划、数据集、基础设施和法律监管体系的5年和10年计划。俄罗斯已表示将继续推进其2008年国防现代化议程,该议程要求到2025年使该国30%的军事装备实现机器人化。
报告称,俄罗斯军方一直在研究人工智能的应用,重点是半自主和自主军用车辆。据报道,俄罗斯还为无人地面车辆建造了一个作战模块,该模块能够自主识别目标,与目标进行交战,并计划开发一套支持人工智能的自主系统。此外,俄罗斯军方计划将人工智能纳入无人机、海军和水下航行器,并且正在开发其集群能力。这些技术可以降低成本和人力需求,有可能使俄罗斯能够以更少的人员部署更多系统。俄罗斯也在探索人工智能在遥感和电子战方面的创新用途,可能会降低对手在战场上进行有效通信与导航的能力。最后,俄罗斯广泛使用人工智能技术进行国内宣传和监视,以及针对美国及其盟友的信息战。
报告称,分析人士认为,俄罗斯可能难以在人工智能发展方面取得重大进展。例如,俄罗斯学术界几乎很少发表关于人工智能的研究论文,在全球人工智能相关出版物中排名第22位,而且俄罗斯还没有能够与美国和中国媲美的人工智能应用程序。还有一些分析人士反驳称,这些因素可能无关紧要,尽管俄罗斯从未成为互联网技术的领导者,但它已经成为网络空间一支引人注目的破坏性力量。俄罗斯也可以利用其与中国不断增长的技术合作来谋求发展。
| 图片来源:百度图片,人工智能技术
(四)国际机构
报告称,许多国际机构已开始研究有关人工智能的问题,包括七国集团(G7)、亚太经济合作组织(APEC)和经济合作与发展组织(OECD)。经济合作与发展组织为人工智能制定了第一套政府间原则。这些原则旨在“促进具有创新性和可信赖性并尊重人权与民主价值观的人工智能”。美国是已经采用经合组织人工智能原则的42个国家之一,此外,还包括经合组织的36个成员,以及阿根廷、巴西、哥伦比亚、哥斯达黎加、秘鲁和罗马尼亚。这些原则是二十国集团(G20)于2019年6月发布的关于以人为本的人工智能部长级声明的基础。此外,经合组织于2019年成立了人工智能政策观察站,通过制订政策选项“帮助各国鼓励、培育和监督负责任地开发可信赖的人工智能系统,并造福社会”。
2021年10月,北大西洋公约组织(NATO)发布了其第一个人工智能战略。据北约秘书长延斯·斯托尔滕贝格(Jens Stoltenberg)称,该战略是“为负责任地使用人工智能制定标准,根据国际法概述北约将如何开展人工智能的应用,阐明北约将如何保护这项技术,并应对对手使用人工智能带来的威胁。北约还将另外成立人工智能测试中心以及数据与人工智能审查委员会,以确保人工智能战略的“可操作性”。
(五)美国国会可能面临的挑战
美国国防部正在采取哪些措施来实施其人工智能伦理原则?这些措施是否足以确保国防部遵守这些原则?
国防部和情报部门是否掌握有关外国军事人工智能应用的状态以及此类应用是否可能威胁美国国家安全的足够信息?
与“深度伪造”有关的国家安全考虑应如何与言论自由保护、艺术表达和基础技术的有效使用相平衡?如果有的话,美国政府应该采取哪些努力来确保公众接受有关“深度伪造”的教育?
(未完待续)
先进制造系列文章
编辑|徐丽萍
审核|李穆子