对华鹰派正在制造人工智能军备竞赛China Hawks are Manufacturing an AI Arms Race
一个有影响力的国会委员会正在呼吁开展一场基于陈旧证据的超级人工智能军事化竞赛An influential congressional commission is calling for a militarized race to build superintelligent AI based on threadbare evidence

加里森·洛夫利Garrison Lovely
2024 年 11 月 20 日Nov 20, 2024

中美人工智能竞争正在进入一个危险的新阶段。

今天早些时候，美中经济与安全审查委员会（USCC）发布了年度报告，其中最重要的建议如下：

国会设立并资助一个类似曼哈顿计划的项目，致力于竞相开发并获得通用人工智能 (AGI) 能力。通用人工智能通常被定义为在所有认知领域都与人类能力相当甚至更胜一筹的系统，并且在每项任务上都能超越人类最敏锐的头脑。

正如有人在 X 上观察到的那样，他们没有将其称为“阿波罗计划”，这很能说明问题。

USCC 委员之一 Jacob Helberg向路透社表示：“中国正在竞相推进 AGI……我们必须极其认真地对待他们。”

但中国真的在向 AGI 迈进吗？如果是真的，那就太棒了！

这份报告长达 793 页，附有 344 条尾注。尽管篇幅很长，但只有少数几处提到 AGI，而且全部都在建议美国竞相建立 AGI 的部分。

换句话说，报告中没有任何证据支持赫尔伯格所说的“中国正在竞相迈向通用人工智能”。

尽管如此，他的引言在路透社 300 字的报道中没有受到质疑，而这篇报道的阅读量远超 800 页的文件。由于它出自如此庞大报告背后的一位委员之口，因此显得更加庄严。

我并不是断言中国绝对不会急于建立通用人工智能。但如果赫尔伯格的说法有确凿的证据，那为什么它没有被写进报告中呢？

赫尔伯格尚未回应置评请求。

正如报告所指出的，中国长期以来一直表达了引领世界人工智能发展的愿望。但这与刻意打造通用人工智能不同，后者可能会产生深远的不稳定影响，即使我们有万无一失的方法将这种系统与其创造者的利益结合起来（我们没有）。

我原本希望该报告能够为赫尔伯格的说法提供最有力的证据，但我发现，除了概述中国希望发展人工智能产业以抵御美国的遏制努力之外，对中国人工智能意图的分析少之又少。 

中国对人工智能的看法

2017 年 7 月，中国国务院发布了一份重要文件，名为《下一代人工智能发展规划》，该文件由新美国智库翻译。该计划是中国人工智能产业政策的蓝图，其中包括经常被引用的到 2030 年在人工智能领域领先世界的目标。

这是否意味着创造一个能够永久改变全球力量平衡的数字超级智能？

不完全是。

目标的介绍如下：

第三，到2030年，我国人工智能理论、技术和应用达到世界领先水平，成为全球首要的人工智能创新中心，智能经济、智能社会应用取得明显成效，为进入创新型国家和经济强国行列奠定重要基础。

该文件提出了到 2030 年人工智能产业价值达到 1 万亿元人民币（约合今天的1900 亿美元）的目标。Statista预测2030 年全球人工智能市场规模将达到 8270 亿美元，其中美国为 2240 亿美元，中国为 1550 亿美元。

换句话说，中国 2017 年制定的 2030 年目标仅比当前市场预测乐观一点，实际上还达不到全球主导地位。这些数字表明了正常的工业增长目标，而不是 AGI 所暗示的革命性技术突破。（一些 AI 预测者认为 AGI可以推动年人均 GDP 增长率远高于 100%。）

该计划还希望中国“建立更加完善的人工智能法律法规、道德规范和政策体系”。

日前，拜和习会在秘鲁利马举行，据报道，中国国家主席呼吁“加强对话与合作”，并将人工智能视为与气候变化同等的“全球挑战”。

今年 7 月，中国发布了一份文件，中国人工智能专家马特·希恩 (Matt Sheehan) 表示，这是“我们所看到的最明显的迹象，表明中国对人工智能安全的担忧已经蔓延到高层，他们打算对此采取一些行动。” 希恩此前曾写道：“北京在人工智能监管方面处于领先地位”，Anthropic 的政策负责人也承认了这一点。

显然，我们应该对这一切持保留态度。世界各国领导人都有动机夸大他们愿意合作并为了全球利益而采取行动，而中国人工智能法规的重要性尚不完全清楚。但美国的政策制定者至少应该意识到，在人工智能方面，中国所说和所做的与鹰派人士所宣称的国家正在做或计划的事情之间存在巨大差距（尤其是当他们没有引用证据时）。

只有一个超级大国的政府委员会公开呼吁军事化竞赛来建造超级智能 AI（而没有计划如何控制它），这个超级大国不是中国。

报告中的技术错误

还有一些迹象表明，报告作者在人工智能方面有点不够深入。

报告多次错误识别基本技术概念。报告多次提到“ChatGPT-3”，但实际上并不存在这样的产品——ChatGPT 是使用 GPT-3.5（GPT-3 的改进版本）推出的。在比较模型性能时，作者将 ChatGPT（一个界面）与 GPT-3.5 和 GPT-4 等底层模型混淆了。当你明确比较不同 AI 系统的功能时，这些不仅仅是语义上的区别。

混乱还不止于此。报告称“OpenAI 的封闭模式切断了中国对其服务的访问”——但你可能意识到，OpenAI 是一家公司，而不是一个模型。报告还指出，“生成式人工智能模型可以将算法转换成文本、图像、音频、视频和代码。”这似乎是对麦肯锡关于人工智能生成不同类型内容的定义（本身并不特别精确）的含糊解释。

这些可能看起来像是吹毛求疵，但它们揭示了这份旨在指导国家人工智能政策的报告中令人担忧的技术素养的缺乏。作为一名在麦肯锡工作的人，我不会去那里寻找人工智能的技术定义。

最能说明问题的是，他们为 AGI 提供的定义存在一些不需要任何技术专业知识就能发现的问题：

AGI 通常被定义为在所有认知领域都与人类能力相当或更优异的系统，并且在每项任务上都能超越最敏锐的人类思维。

AGI 是否只是“与人类一样好”的东西，还是“超越”我们中最聪明的人的东西？这并不是报告中深藏的晦涩定义。它实际上是他们首要建议中的第二句话。这也是作者认为美国应该动员战时力量来实现的目标。从书面上看，实现这一目标意味着什么都不清楚！（撇开实际定义和衡量 AGI 的通常困难。）

结论

我们以前就见过这种情况。最鹰派的声音被放大，怀疑论者被冷落。毫无证据的关于对手能力的言论推动着政策，而相反的情报则被掩盖或忽略。

20 世纪 50 年代末，国防部官员和鹰派政客警告称，美国与苏联之间存在危险的“导弹差距”。苏联拥有比美国更多的核导弹这一说法帮助肯尼迪赢得了总统大选，并为大规模军事建设提供了理由。但有一个问题：这不是真的。新情报显示，苏联只有四枚洲际弹道导弹，而美国有几十枚。

现在，我们正目睹类似故事的诞生。（在某些情况下，相似之处有点太明显了：OpenAI 的新任首席说客Chris Lehane上周在华盛顿特区一家著名智库表示，美国正面临“计算差距”。）

对邪恶而神秘的对手的恐惧是走捷径、不做任何实际计划就一意孤行的终极理由。我们在第一次冷战中侥幸躲过了一场灾难。如果我们引发第二次冷战，我们可能就没那么幸运了。

附录：

1.美国国会推动曼哈顿计划式的 AGI 计划超越中国

美国国会委员会建议大规模发展通用人工智能，以在与中国的竞争中占据领先地位。其他关键技术也备受关注。

美国国会委员会在一份新报告中主张启动一项类似“曼哈顿计划”的计划，以引领通用人工智能（AGI）的发展。“曼哈顿计划”导致了二战期间第一颗原子弹的研制。

报告指出：“美国和中国势均力敌，根据具体的关键和新兴技术，两国或将处于领先地位。”美国目前在开发强大的人工智能模型方面处于世界领先地位，但中国正在进行多项由国家主导和看似私人的努力，以开发先进的人工智能模型。

人工智能的曼哈顿计划

报告称，为了与中国竞争，国会应该向领先的人工智能、云计算和数据中心公司提供长期合同和资金。这可以确保复杂的研究项目能够实现。建议国防部长在“国防优先级和分配系统”中给予人工智能项目较高的国家优先级（DX评级），以确保它们获得优先资源。DX评级由DCMA（国防合同管理局）颁发，并指定具有“最高国家优先级”的项目。

打击工业间谍活动

委员会还建议国会考虑立法，要求事先批准和监督中国在美国生物技术公司中的参与。这应包括基因组研究、药物开发以及对大学和政府机构的投资。这背后的背景是生物技术和人工智能的日益融合，例如在大型基因组数据集的分析方面。政府的大量投资应涵盖生物技术的整个技术开发周期和供应链。

还鼓励限制或禁止进口中国公司控制的某些技术和服务，包括在灵活性、运动和智能等领域具有先进能力的人形机器人，以及具有远程维护功能（如电网负载控制）的能源基础设施产品。正在进行的“联网汽车”监管项目将扩展到中国制造商的其他联网设备，如工业机械、物联网设备和家用电器。

为了保护知识产权、减少工业间谍活动和防止敏感战略信息的泄露，国会预计还将颁布法律，禁止授予中国投资者战略技术领域的董事会席位和信息权。

人工智能的军事应用变得越来越重要

报告强调了数据对于发展人工智能能力的重要性。每个国家在人工智能系统数据的收集、使用和可用性方面都具有一定的优势。中国了解数据对于人工智能的价值，并采取积极措施提高其人工智能生态系统中高质量数据的可用性，例如通过国家支持的数据库以及获取国有企业和政府机构的数据。

报告还补充道，人工智能将成为中国未来军事战略的核心组成部分，并将支持中利用美在战场上使用的技术系统的漏洞。通过使用人工智能支持的数据处理和决策，中国希望能够比美国武装部队行动得更快。人工智能还将在自主武器系统和认知战争等应用中发挥核心作用。

国会将在多大程度上遵循该提议仍有待观察。

概述

美国国会委员会建议实施类似“曼哈顿计划”的大规模通用人工智能（AGI）开发计划，以在与中国的竞争中占据领先地位。为此，领先的人工智能公司将获得长期合同和资金。
为了防止中国的工业间谍活动，美国提出了更为严格的法律，例如对中国对美国生物科技公司投资的批准、对某些中国技术的进口限制以及禁止中国投资者占据美国战略科技部门董事会席位。
中国将人工智能视为其未来军事战略的核心，以利用美国武装部队的弱点。中国在人工智能培训方面投入了大量资金，在人工智能研究论文数量上领先于美国。

https://the-decoder.com/us-congress-pushes-for-manhattan-project-style-agi-program-to-outpace-china/

2. 美国与中国的人工智能战争正在愈演愈烈 — — 或者至少，围绕它的言论是这样的。

周二，美国国会委员会提出了一项“曼哈顿计划”式的计划，以资助开发具有人类水平或超人智能的人工智能系统。

美中经济与安全审查委员会（USCC）在其年度报告中建议政策制定者授权为“领先的人工智能、云计算和数据中心公司”提供资金，并指示美国国防部长确保人工智能发展获得“国家优先”地位。

路透社援引USCC 委员 Jacob Helberg 的话称： “纵观历史，我们看到，率先利用快速技术变革时期的国家往往能够改变全球力量平衡。中国正在竞相发展 [AI 超级智能]。……我们必须极其认真地对待他们。”

美国国会下属的中美安全与合作委员会由美国国会设立，旨在就中美关系提供建议，该委员会的提议往往偏向强硬派。但该委员会并不是唯一一个提倡采取更积极行动来遏制中国科技野心的机构。

例如，美国商务部长吉娜·雷蒙多建议美国与外国盟友分享人工智能技术，以对抗中国的崛起。与此同时，国防部官员呼吁采取保障措施，防止技术通过海外数据中心和芯片供应商泄露给中国。

美国已经采取了一系列旨在遏制中国人工智能发展的政策，包括对硬件基础设施的出口禁令和对该地区人工智能技术的投资。中国规避了其中一些政策。但其影响是显而易见的，而且影响深远。举个例子，中国已经完全无法获得训练人工智能所需的最先进芯片，包括下一代 GPU。

鉴于此，美国参议院外交关系委员会的声明似乎有些过头了。

目前还不清楚超级人工智能究竟是什么样子。但假设它涉及所谓的推理模型，正如一些人所认为的那样，中国实验室似乎落后了，而不是领先。根据一项分析，中国顶尖公司的模型比美国同行落后约 6 到 9 个月。

我们必须考虑到 USCC 的建议可能出于私利。Helberg 是 Palantir 首席执行官的高级顾问，Palantir 是一家拥有多项 AI 国防合同的公司。政府对 AI 的资助自然会使美国 AI 公司受益。

总而言之，呼吁开展类似曼哈顿计划的超级智能 AI 项目似乎比任何事情都更加危言耸听。

https://techcrunch.com/2024/11/20/this-week-in-ai-congressional-commission-warns-of-chinese-agi/