机器战争：将自主系统纳入军事框架

学术 2024-11-05 17:45 北京

几年前，美军在阿富汗进行空中打击需要大量人力参与。操作员将手动驾驶武装 MQ-9 “死神 ”跟踪目标，并经常咨询专业图像分析人员，以便在视频流中找出潜在目标。他们将保持目标锁定，并在接到攻击命令后扣动扳机，向地面发射 AGM-114 地狱火导弹。

如今，人类在这一杀伤链中的参与完全是可有可无的，而且随着乌克兰与兵力短缺和持续不断的干扰作斗争，飞行员面临着额外的风险，通信链路的退化危及任务的成功。经过实战验证的 “弹簧刀 ”或 Warmate等巡飞弹药具有半自主模式，但Saker Scout等其他弹药正日益向全自主模式发展。“大规模自主 "是当今的流行语，引起了军方的极大兴趣，也吸引了投资者和采购官员的目光。

因此，军事能力规划者和国防制造商开始认真考虑未来自主系统（致命和非致命系统）在军事领域发挥核心作用的可能性。例如，美国海军陆战队正在测试配备固定炮位的四足无人潜航器，而乌克兰则成立了一支无人系统部队，该国数字化转型部长米哈伊洛-费多罗夫（Mykhailo Fedorov）表示，自主系统是 “合乎逻辑且不可避免的”。

自主系统这颗新星正在冉冉升起，而且不太可能在短期内陨落。

军方兴趣是有根据的。从情报、监视和侦察（ISR）任务，到后勤和医疗后送（MEDEVAC），再到作战行动，自主系统都有可能带来革命性的变化。从长远来看，它们对战争结构的变革影响可能不亚于空中力量的引入或火药的发明。

有鉴于此，以及确保在这一领域始终处于技术进步前沿的极端重要性，本文将试图勾勒出将自主系统纳入现有军事框架的路线图。

为此，本文将阐明什么是自主系统，为什么自主系统对军事力量至关重要，然后确定三项原则，指导自主系统融入军队。

自主系统的必要性

人们已经做了大量工作来探讨自主系统在操作、法律和伦理方面的利弊，主要集中在其致命变体上。本节的目的不是重复或总结这些讨论。相反，本节旨在简要介绍当今和未来对自主系统需求的推动力。换句话说，就是为如何将自主系统纳入现有军事框架的问题提供存在的理由。

为了有效地做到这一点，有必要澄清 “自主系统 ”一词，将其理解为：机器与人的 C2 关系的特点是人在环外；具有学习能力，其决策并不能从检查其代码中看出来；其专有决策池涵盖了实现人类设定目标所需的所有行动。

这种机器不仅是值得考虑的选择，而且是未来军事行动的明确要求，其核心驱动力有两个。它们的基础是 “不必要的风险原则”（PUR），该原则认为，在存在技术替代方案的情况下，让人类士兵面临可避免的风险是不道德的；以及霍布斯的要求，即国家必须保证其公民（包括士兵和平民）的安全。

在人类无法做出足够迅速的反应或无法以足够准确或可靠的方式执行任务的危急情况下，自主系统已经取代了人类。在未来战场上，同样的道理将更加适用：战争的速度和复杂性将要求在致命和非致命领域都具备超越人类极限的能力。这意味着两方面的危险。

首先，就个人而言，士兵将越来越多地面临他们无法应对的威胁，无论是被新技术赋予能力的敌方士兵，还是（致命的）自主系统本身。在这种情况下，如果国家未能开发和部署自主系统，就不仅仅是错失良机，而是违背了人民和国家对其士兵--公民的责任。

毫无疑问，自主系统和人类一样，可能犯错，也确实会犯错。但如果因此就完全否定它们，就会忽略失去此类系统的士兵会受到的更大伤害，以及技术不断发展和改进的现实--错误会催化进化。

其次，在国家层面上，随着时间的推移，依靠传统的人力对抗人口更多或拥有自主系统的对手变得越来越危险和无效。如果对手掌握了这种技术，他们就会获得并不断扩大自身军事能力的领先优势。

在全面战争或高风险军事行动中，放弃此类系统可能会在战场内外造成灾难性后果。在和平时期，由于缺乏自主系统，国家的常规威慑力量下降，这将使其面临不择手段的对手施加的额外代价。

为了防止这种情况的发生，必须利用其巨大的技术人才、资源和工业能力，用机器来壮大自己的队伍--部署的不仅仅是几项精湛的技术，而是大量能够支撑与主要对手的持久冲突的自主系统。这样做将极大地影响在战争中的表现，并显著增强威慑态势。

这并不是说不应该施加明确而严格的限制。自主机器，无论其先进程度如何，都不应该被赋予发起冲突或控制核武器的能力。1983 年，苏联用于自动核报复的 “死手 ”系统发生故障，险些酿成大祸，就是明证。

然而，在这种限制之外，自主系统并非遥不可及，而是迫在眉睫的现实。准备将其负责任地、有效地纳入我们的军事战略，是刻不容缓的当务之急。为此，可以阐明三大原则。

一体化之路

宙斯盾方法

在任何军事行动中，只要自主机器能够可靠地大大胜过人类操作员，而且失败的风险会导致严重后果，那么自主系统的开发和部署就有了肥沃的土壤。

对于国防平台来说，自主并不是一个新概念。事实上，目前使用的几种主要武器系统经常以半自动模式运行。宙斯盾作战系统（Aegis Combat System）及其陆基变体 “宙斯盾岸舰”（Aegis Ashore）都配备了半自主的 “人在环上”（HOTL）工作模式，操作员可以中断他们认为错误的行动，但系统会在没有人干预的情况下执行整个防空杀伤链。法兰克斯近防武器系统（CIWS）也不例外，最近它曾在红海抵御胡塞武装的攻击，保卫了美国海军驱逐舰 “格拉夫利 ”号。

这些系统和其他类似系统之所以具备自主能力，是因为这些平台的运行条件意味着人类无法以足够的速度和精度可靠地完成所需的任务，而失败则会导致不可接受的高昂代价--人力、财力和运行成本。换句话说，如果由人类操作员取代自动机器，就意味着发生灾难性后果的可能性显著增加。

迄今为止，这一 “宙斯盾基准 ”主要适用于防空场景。在这些场景中，攻击和防御已经以超人的速度展开。但乌克兰战争毫无疑问地表明，这种情况的范围正在扩大。例如，炮兵交火越来越接近机器速度，使用 FPV 无人机和复杂的人工智能来识别、定位和攻击目标。

因此，“宙斯盾基准”是一个有用的指南，有助于确定自主系统在哪些领域具有相关性，甚至是迫切需要。这并不意味着明天就可以把所有用 “宙斯盾 ”规则确定的领域都交给机器来处理。不过，这种方法可以让目标明确的创新几乎立即展开，并有望确定技术获取机制已经到位的作战肥沃领域--这是将此类技术纳入现有军事框架的核心组成部分。

行动掌舵

让行动、实验和基于现实世界反馈的快速迭代来引导技术发展以及条令和监管立场。快节奏的试点项目、消除失败的污名化，以及通过有意义的体验来关注进步，这些都应成为前进的动力。

新技术带有大量已知和未知的未知因素。自主系统也不例外--虽然存在着大量的推测方案和有充分依据的假设，但自主系统仍处于起步阶段，尚未以任何有意义的规模或成熟度投入使用。

为确保取得最佳进展，并有效整合和使用最终产品，军队和行业参与者必须专注于从原型到实地测试的快速发展，尽可能多地采用多样化的技术和使用案例，同时为自己留出失败、学习和发展的空间。简而言之，他们应将行动视为第一步，即最终的上游点，从而能够有意义地生成经验教训，并丰富新的训练方法、标准操作程序（SOP）、条令、法规等下游方面。

这项工作的一部分涉及军事领导层有意识地作出这方面的决定。另一部分工作包括制造商独立确定正确的使用案例，寻找最终用户进行实验和测试，并与他们合作提供可用于实战的技术--这种模式通过让新技术渗透到现有结构中，在乌克兰取得了卓越的成果。

通过招募此类内部盟友并快速、定期地获取实际反馈，私营部门行动者可以在军队基层工作，从而在国内以及--最重要的是--在敌对国家--领先于竞争对手。

从长远来看，标准化当然是实现规模化的必要条件。建立训练程序、标准操作程序并将自主系统纳入军事条令是基础。然而，错开这些制约因素的发展--就像乌克兰的无人机及其无人系统部队那样--将使武装部队取得最快的进展，同时从现实世界的知识基础出发建立程序，并在关键的法律和道德问题变得真正相关的时候，即大规模采用和扩展的时候，考虑到这些问题。

机器的一小步，人类的一大步

从技术上讲，赋予机器致命权力是一项相对简单的工作，但从人类的角度来看，这却与这一决定的震撼性形成了鲜明对比。应优先考虑当前的非致命性需求和目标，同时考虑可选的致命性最终状态，以促进快速整合。

关于自主系统的讨论往往会迅速转向致命性问题。这个话题的吸引力是可以理解的--致命性自主系统提出了一系列技术操作和伦理问题，无疑值得认真考虑。

然而，问题在于，对致命性自主系统的憧憬阻碍了这一领域的许多进展，而这些进展实际上并不涉及夺取人类生命的问题。这阻碍了非致命性自主系统对军人产生许多深远的积极影响。自主系统可以在 ISR 和医疗后送任务、排雷行动和防空行动中拯救生命，这只是其中的几个例子。

为了在将自主系统纳入武装部队方面取得进展，应该从一开始就把重点放在开发和整合非致命性变体上。这将更容易融入许多现有的军事行动和采购框架，并应通过大规模的机会和具有更近期目标的快节奏政府研发计划得到加强。

这将为自主系统奠定坚实的技术基础和明确的作战先例，使我们能够适当地开发、管理和扩展自主系统。当有一天考虑授予它们致命权力时，决定将是有意义的，而不是假设性的。

结论

自主系统--无论人们喜欢与否--已经存在并将继续存在。今天，它们刚刚萌芽，但几乎肯定会成为未来战争的主力。它们代表着作战和战术上的重大军事优势，使指挥官能够保障军人的生命安全。面对全面战争的现实前景，很少有国家（如果有的话）会放弃发展和部署这种系统，尤其是如果对手对使用这种系统没有偏见的话。

面对日益动荡的地缘政治环境，面对那些道德约束较低、风险偏好较高、甚至野心更大的可信且有能力的对手，保持军事优势至关重要。将以自主系统为代表的新技术融入军队，对于实现这一目标至关重要。

通过在现有方法的基础上将自主系统和新技术整合到国防平台和军事行动中，大胆行动，快速学习，并适当提高工作规模，可以有效地利用自主系统的潜力来保护国家、人民。

与大多数技术进步一样，自主系统也会经历成长的阵痛，带来意想不到、不可预见，有时甚至是有害的后果。有责任降低风险、克服障碍，并最终以切合实际的速度提供对维护安全至关重要的技术。

如今，杀伤链中的自主技术还很不完善，主要局限于少数早期巡飞弹药和少量防空系统。这种情况不会持续太久。机器大战即将来临，是用更好、更强、更快的金属，还是用自己的肉体来面对它们，这取决于自己。参考来源：KARVE

专知便捷查看

请关注专知智能防务公众号（点击上方关注）

更多相关内容请上专知查阅，左下角点击“阅读原文”查看

欢迎微信扫一扫加专知助手，咨询服务：中文报告购买、资料定制

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！

点击“阅读原文”，查阅更多“AI+军事”资料信息

http://mp.weixin.qq.com/s?__biz=MzA4OTYwNzk0NA==&mid=2649729190&idx=2&sn=a24e1afa428e085688280c4ca4852647

人机与认知实验室

人机交互与认知工程实验室联系方式：twhlw@163.com

最新文章

美国国会在议人工智能法案清单整理

人类的意识更偏势态知感，而不是态势感知

如何实现势态知感是智能系统的关键

人形机器人的关键在于态势感知与势态知感的平衡

Science:如何理解大模型的智能本质

如何设计人机之间态结构、势结构、感结构和知结构的符号与形式化系统

态结构、势结构、感结构和知结构

人与AI中的时间、空间常常不同

牛津大学报告：《无法被AI取代的力量：人类认知的理论驱动力》

为什么用当前的数学构建不了真实的世界模型

中美南海对峙：3艘052紧急交付海军，舰上270名船厂员工拒绝撤离

打破“孤独天才”的神话: 还原一个善于学习与合作的爱因斯坦

触及通用人工智能天花板的三个小问题

决策包括定量建模计算与定性建模算计

智能教育不同于智能学习

智能教育不仅仅是机器的智能

智能教育的关键在于人、机、环境的分权及集权

关于建构新型人机环境系统智能教育平台的思考

首发 | 《欧盟人工智能法案》解读

人工智能辅助决策的三大挑战

计算是态势感知，算计是势态知感

牛顿的猫洞与科学家的成长

人机之间信息的结构与界面滑移

人机之间信息的结构可以有不同的表征

人机边界层的滑移条件

人机界面是由数据与知识、事实与价值联合驱动的

态推理、势推理、感推理、知推理不同

如何设计人机环境系统智能的符号与形式化系统

如何理解AGI是具备普通人类所有认知能力的通用 AI

通用人工智能的现实困境

如何设计一套智能的符号与形式化系统

智能的符号化与形式化不同于人工智能的符号化与形式化

从人-物到人-机再到人-AI

未来工程教育：人工智能将转变传统师生关系

人机混合意识与人类意识不同

人类具有非物理性智能吗？

人机的功能与能力边界

人机界面中的数据、信息、知识、算法分层

人机界面中的语法、语义、语用层次

在态势感知中如何用势控制态

态势感知中的态障、势障、感障、知障

在态势感知中如何克服态障、势障、感障、知障？

别不好意思承认：我们都已经是人机混合体

群体智能中各智能体的期望常常不一致

现在的AI仍只是人类智能中极小的一部分

别不好意思承认：我们都已经是人机混合体

推理能力的提升需要跨模态、多任务、知识注入等方面的创新和设计

如何通过训练达成学习推理的scaling law

计算机专业与心理学专业的人机交互有何不同

人工智能中的“剑”与“桥”

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉