今天希望跟大家分享的是美国很有名的智库战略与国际研究中心（CSIS）的一期专家对话，主角是CSIS人工智能和先进技术瓦德瓦尼中心主任Gregory C. Allen，与谈人是CSIS首席信息官H. Andrew Schwartz 。
Gregory的职业经历跨政府、智库和咨询公司三界，所涉足的领域涵盖人工智能、机器人、半导体、空间技术和国家安全。在加入 CSIS 之前，他曾担任国防部 (DOD) 联合人工智能中心的战略和政策总监，负责监督国防部人工智能战略的制定和实施，帮助国防部制定了人工智能治理和伦理机制加入国防部前，他曾担任蓝色起源公司的市场分析和竞争战略主管、新美国安全中心的兼职高级研究员。Gregory还是美国情报高级研究项目“人工智能与国家安全“的核心参与者，这个研究报告推荐每个关心中美人工智能竞争未来发展的人认真读一下。
作为一个中美科技竞争的长期观察者，笔者一直对Gregory非常关注，并认为他的研究对美国政府和政策界有很深的影响，甚至可以说是这一轮美国芯片出口管制和人工智能竞争的重要政策推动者。他在2022年美国推出史无前例的芯片出口管制规则后，最早指出美国政府的真正政策意图在于扼住中国人工智能发展的咽喉，且连续发表文章阐述先进芯片对国家安全、军事国防的意义，成为芯片管制问题上美国最权威的专家之一。这也让他成了美国芯片企业的眼中钉，英伟达的CEO黄仁勋甚至去找CSIS交涉，要求制止Gregory继续散布关于芯片影响国家安全的叙事。
在这次的对话中，Gregory一如既往展现了对相关问题的洞见，所讨论的问题涉及AI产业发展、AI对美国大选的影响、美国的AI立法、中美芯片战、对华为芯片能力的看法等，特别是关于AI对美国国防和未来战争的意义有一些很有意思的观点。以下为对话的全文实录：
H. Andrew Schwartz
本周我们想谈谈2024年的AI。格雷格，当你想到2024年的AI时，你期望看到什么样的发展和AI技术本身？
Gregory C. Allen
我认为我们在当前的AI技术浪潮中实际上是所谓的“扩展假设（scaling hypothesis）”。这是一个关于AI系统如何改进的实证观察。
事实证明，如果在现有的训练AI模型的方法上投入更多的数据和更多的计算资源，那么拥有更多数据和更多计算能力的模型就会变得越来越好。这一点在很长一段时间内都是正确的。到2024年，我们已经发现资本市场在训练这些大型AI模型方面实际提供的资金可能是有限的。例如GPT 4是目前公众可以使用的最先进的AI系统、大型语言模型。OpenAI已经透露，为该系统建造数据中心并使用所有电力，运行所有计算和分析所有数据的成本约为1.5亿美元。那么，接下来的系统可能会花费10亿或15亿美元来训练这个AI模型。当你想要使用它时，它的成本要高得多。要知道，每次使用谷歌搜索时，谷歌运行计算来找到你想要的东西都要花钱，但是当你使用AI运行大型语言模型时，它的成本要高得多。因此，构建和操作这些系统的成本只会不断上升。
我认为我们在2024年有两个问题，当我们谈论数十亿美元用于最先进的AI模型时，有多少人能够真正投入他们需要的资金来构建这些东西。其次，扩展假设是否会保持正确？如果你增加计算能力，如果你将数据量增加10倍，这个东西会变得更聪明10倍吗？或者它真的变得更聪明了多少？扩展所有这些额外资源的收益值得吗？
H. Andrew Schwartz
那么考虑到这一切，你认为2024年会有重大突破吗？
Gregory C. Allen
我认为我们肯定会看到表现大幅提升。我确实认为2024年是否有可能带来突破是有争议的。从我的角度来看，如果我们在AI看到真正的变革性突破，是在2012年，当时我们想出了如何将深度学习神经网络连接到GPU。我们在接下来的8到10年里，只是将这种方法应用于计算机硬件的机器学习。然后在过去的几年里，你有了围绕大型语言模型和所谓的变压器架构的新革命，这是一种设计机器学习AI系统的特定方式。
如果你听像OpenAI的CEOSam Altman这样的人说，如果你想要拥有像一个在大多数方面都像人类一样聪明的AI，从经济角度来看，这将需要一种新的架构。所以大型语言模型很棒。有很多方法可以将人工智能部署在经济和社会中。有一些世界上最聪明的人在致力于下一次革命，很难说什么时候会到来。可能在2024年，也可能在2029年。
H. Andrew Schwartz
你有没有想过投资会用于这个项目？
Gregory C. Allen
当然。我从风险投资界听到的是利率非常高。除非你在人工智能领域工作，否则很难为一家新创业公司筹集资金。
H. Andrew Schwartz
因为那改变了一切。
Gregory C. Allen
没错。这在初创公司和大企业公司都是如此。每个人都在向AI投入数百亿美元的投资，这肯定会带来某种突破。
H. Andrew Schwartz
好的，在我们深入探讨你对2024年的AI政策预测之前，我想快速谈谈选举，因为2024年将是我们历史上最大的选举年。你希望AI扮演什么角色？我们已经看到AI在国外选举中产生虚假信息。你认为这种趋势会在总统和国会选举中继续上演吗？
Gregory C. Allen
是的，几乎地球上的每个民主国家都在2024年巧合地举行选举。2024年有这么多选举。现在AI将在两个方面成为一个因素。
第一，我认为AI将成为竞选和举行选举的工具的一部分。我们已经在美国看到了一些这样的情况。Ron Desantis发布了一个聊天机器人，你可以在上面和Ron Desantis聊天。当然，这是一个AI的大型语言模型。我不知道它是否真的说服了许多选民，但这是竞选正在探索的能力。也许有人会想出如何以有影响力和严肃的方式使用它。
第二是关于深度伪造和虚假信息。人工智能可以创建看起来非常逼真的照片。他们可以创建看起来非常危险、逼真的音频和视频。这是我们已经在2023年孟加拉国选举中看到的事情，据报道，深度伪造是故事的重要组成部分。这已经在世界的某些地区发生了，包括美国和其他先进的民主国家。问题是是否会有有效的保障措施？我认为联邦选举委员会将制定有效的法规来处理拜登和特朗普的具体竞选活动。但是，其他类似的秘密组织，所有这些都可以利用这种AI技术做很多事情，也许不像主要竞选活动本身那样受到有效的监管。
H. Andrew Schwartz
所以我们在谈论竞选广告或某种竞选信息？
Gregory C. Allen
他们传播的信息可能伪装成新闻。我们在2016年的选举中看到了一些这样的情况，希望支持唐纳德·特朗普的虚假文章，即使完全是假的，也获得了数千万或数亿的浏览量。这个那只是一篇文章，如果这是一段高清视频，看起来非常引人注目。很多人可能会在社交媒体或其他地方看到那个视频。这种事情可能会在2024年发生。
H. Andrew Schwartz
让我们谈谈你对2024年的政策预测。让我们首先从2023年法规开始，看到了几个高水平的AI治理努力。你是否期望这些努力在2024年转化为可行的政策？
Gregory C. Allen
我认为应该从白宫的行政命令开始，因为像许多行政命令一样，是白宫告诉联邦机构做些什么。在80天内必须制定AI使用的标准，或者在6个月内必须制定规定。特别是商务部，将在这里发挥非常重要的作用。他们将对此进行监督。但是大多数机构将不得不制定法规，规定AI在他们的领域受到的具体影响，比如交通部、能源部。这肯定会在2024年出台。
H. Andrew Schwartz
国会会通过全面的立法吗？
Gregory C. Allen
全面立法绝对是目标。参议院多数党领袖查克·舒默已经多次表示过这一点。问题在于，2024年是选举年，在选举年通过全面立法真的很难。在选举年仅仅通过联邦预算就已经不容易了。我认为这里可能会发生的一件事，就是他们会提出一项法案。他们会提出很多立法草案，并且会有很多关于草案立法的谈判。在选举之后，政治风险稍微降低了一点。有些人将离开办公室，他们将退休。他们投票的压力可能会减轻。因此，我认为今年大部分时间都将是就全面方案中的内容进行谈判。那里有一个可能的替代方案，那就是也许AI是选举中的一个重要因素。大多数投票的人都在投票他们的经济生计、文化认同，以及他们是否感到安全。问题是，是否真的有一群有意义的人会关心候选人在AI政策上的立场？如果我不得不猜测，我会说这将在总统辩论中出现。AI可能是选举中的一个重要问题吗？这真的会影响什么通过或不通过吗？我认为这是合理的。
H. Andrew Schwartz
那么，我们可以期待在全球范围内看到什么，6月份将在意大利举行G7峰会？你认为他们在AI会做什么？
Gregory C. Allen
意大利是2024年的轮值主席国。我认为意大利现在是在欧盟AI法案的支持下进入这个阶段的。意大利过去一直处于限制AI的更极端的一侧。当ChatGPT首次推出时，它实际上在意大利被短暂禁止，但是意大利商界进来说，这是下一个技术前沿，我们需要能够利用它。我们不想束缚本国的经济。与此同时，欧盟AI法案现在正在进入实施阶段，我认为意大利会抓住这个机会进行对话。据了解，AI在意大利G7的优先事项中可能不是最高优先事项。意大利当前的政权对移民等话题很感兴趣。但是因为这个数字和技术部长峰会总是在G7举行，显然制定AI政策的人将会开会。大概他们会谈论AI政策。
H. Andrew Schwartz
如果你有一个AI政策发展，你希望在2024年看到它发生，那会是什么？
Gregory C. Allen
我认为我真正想看到的是AI和国家安全。我们已经谈论了很多关于AI监管和治理的话题，因为这是最热门的话题。但是当我想到令人震惊的是，美国军方采用AI和我们在上一期播客中谈到的“复制者计划”仍然没有得到资助。
H. Andrew Schwartz
让我们谈谈AI和国家安全。你认为国防部的大型AI和自治赌注，如复制者和利马特遣队，明年会如何发展？
Gregory C. Allen
我认为国防部正在对两件事情做出反应。第一个是我们在乌克兰等冲突中看到的，他们知道AI有很大的军事潜力，他们想利用这一点。我认为”复制者“在某种程度上反映了这种洞察力。然后你有利马特别工作组，它更多地关注生成AI的东西，比如ChatGPT，稳定扩散图像的生成。利马特别工作组正在探索和找出国防部专注于这两个领域的正确做法。就”复制者“而言，我认为最大的问题是资金，然后他们实际上会购买什么。因此，在复制者的情况下，国防部副部长凯瑟琳·希克斯已经设定了18至24个月的期限。通常这意味着你要购买已经存在的东西。当你说东西将在24个月内交到战斗人员手中，这意味着你要购买已经建造、经过测试的东西，我们需要做的就是制造很多这些东西。那么国防部会购买什么，谁实际负责呢？
H. Andrew Schwartz
让我们谈谈AI武器系统，以及它们将如何继续在乌克兰冲突中发挥重要作用？这是现实世界的事情。
Gregory C. Allen
随着加沙战争真正走向前线，乌克兰战争已经从头条新闻中消失了一点，但它仍在继续。这仍然是欧洲几十年来最大的陆地战争，AI技术已经在这场战争中发挥了重要作用。因此，乌克兰军方因使用SpaceX星链等卫星通信而受到很多关注。但他们也非常擅长一般的软件。我听说过，北约领导人对乌克兰火炮的钦佩。火炮可以匹配算法来识别乌克兰军方射程内的所有目标，决定谁是最好的攻击位置，然后发布命令进行攻击。这是一种简单的基于规则的算法。但乌克兰在图像识别、计算机视觉、机器学习、AI目标识别等方面也展示了很多技能。到目前为止，这主要局限于情报、监视和侦察应用。
我认为2024年可能是我们看到致命自主武器广泛使用的一年。俄罗斯的武器制造商具备这些能力，它可以完全自主。它确实有AI、计算机视觉，你可以用它进行进攻性打击。这就像这些武器系统的营销手册，这些武器系统正在部署到乌克兰。然后在乌克兰方面，数字转型部长明确表示，他们认为自主武器是不合逻辑和不可避免的下一步。因此，当你国家的生存岌岌可危时，就像乌克兰的情况一样，某些类型的武器似乎值得使用。如果乌克兰感到其国家存在受到威胁，这将从根本上成为一场冲突。因此，2024年我们将看到致命的自主武器系统被使用。
H. Andrew Schwartz
致命自主武器有升级的真正潜力。
Gregory C. Allen
没错。有报道称这些系统被用于其他战争，比如不久前亚美尼亚和阿塞拜疆之间的战争。我实际上有点怀疑这些报道的事件是否是真正的攻击性使用AI自主武器。这是人类即将跨越的门槛。乌克兰和俄罗斯可能正在发生这种情况，但他们出于某种原因设法保密。但如果我们在2023年还没有跨越这条线，我认为我们很可能会在2024年跨越它。
H. Andrew Schwartz
国会仍未通过2024财年预算。这会如何影响国防部的AI和自治发展？
Gregory C. Allen
当我们通过一项持续决议时，我们每年都会这样做。这实际上只会让你做的每一件事都变得更加困难，因为对于那些不熟悉持续决议的人来说，这就是政府说，我们不能就下一年的预算达成一致的地方。因此，暂时只做去年的预算。
H. Andrew Schwartz
我们会把问题拖延下去。
Gregory C. Allen
我们将把问题推到未来，这在公司可能不是世界末日，但在政府中，将预算用于其他用途是违法的。这就是我所说的持续决议基本上是让国防部变得更愚蠢的政策。这对AI和自治社区来说是生产力的克星，因为他们想做的大多数事情都是新的。这是一项新技术。当你通过一项持续决议时，你没有说什么新的内容。这意味着你经常说没有新的AI，没有新的自治。
H. Andrew Schwartz
可能对国防部AI发展的未来非常不利。
Gregory C. Allen
这总是非常糟糕的。当我在国防部的时候，这种事情发生在我们身上。这真是太令人愤怒了。华盛顿花了这么多时间试图思考如何通过这项政策改善国家安全，这真的很了不起。今年在华盛顿辩论的可能没有任何想法比没有持续的决议更能帮助国家安全。H. Andrew Schwartz 拜登政府努力限制中国获得AI芯片。我们是否应该期待在2024年看到更多的限制？
Gregory C. Allen
我认为2024年有两件事情真正摆在桌面上。第一件事就是更新法规。法规在2023年10月才刚刚更新。目前没有迫切需要更新它们。但是拜登政府传达的信息非常清楚，他们认识到技术正在快速发展。 当你在一个技术性能门槛上划定界限时，一年后工程师们将在明年解决这个问题。他们实际上已经表示他们打算以最低年度节奏更新这项政策。我们肯定会看到某种更新。
真正需要发生的第二件事是使出口管制更加多边化。现在，日本和荷兰是半导体制造设备的两大巨头，除了美国，现在仅限于中国。问题是，虽然中国半导体制造设备行业远远落后于日本、荷兰和美国，但其他国家，如韩国，只落后一点点。当中国公司出现在韩国时，我在这里夸大其词，但基本上是带着装满钱的垃圾袋，说“请把你能卖给我们的所有设备卖给我们，并教我们如何制造你能制造的设备”。当他们能得到这种帮助时，这会产生很大的影响。所以，拜登政府真的在寻求其他大国在这方面的帮助。德国在制造制造这些芯片的成品机器方面做得不多，但在制造芯片内部的组件方面做得很多。所有这些都只是加速了中国走向美国化的道路，并建造了能够制造AI芯片的机器，这些芯片可以帮助他们赢得与美国的AI竞争。
H. Andrew Schwartz
你认为拜登政府在2024年出口管制方面的成功会是什么样子？
Gregory C. Allen
我认为在2018年，特朗普政府可能存在的机会。也许在2018年存在的机会，现在已经不存在了。在2018年，如果美国、日本和荷兰联合起来限制先进设备。中国不再制造先进芯片。现在到了2023年，他们已经购买了很多这种设备。他们在特朗普政府最初的出口管制有很多漏洞时购买了它，这样如果通过第三方国家运输，就不再违法了。他们购买它是因为荷兰和日本的法规在上线之前花了很长时间。中国已经有很多这样的设备了。以华为和中芯国际为例，在中国设计和制造AI芯片方面走得最远，他们在中国已经拥有足够的设备，我认为每月可以生产大约35,000个晶圆。这是很多芯片。这远远没有中国想要的那么多。
最后回到你最初的问题，关于成功是什么样子。成功不会是中国造不出7纳米的先进AI芯片，更可能是他们只生产了他们希望生产的10%。我们可能无法阻止它，但我们肯定可以让它变得非常昂贵，非常复杂。
H. Andrew Schwartz
您是否期望看到部署和开发任何新的政策工具来阻止中国获得AI芯片？
Gregory C. Allen
我们已经看到一些新工具被添加到工具箱中，即2023年出现的对外投资审查，美国政府通过白宫行政命令，允许自己审查和拒绝对中国先进技术生态系统的投资，包括AI和半导体。这是白宫赋予自己的新权力，财政部已经想出了如何使用这种权力的某些部分。例如，我认为美国再也不会有人投资中国半导体制造的尖端设备了。
但是在其他方面，比如人工智能，财政部没有提供严格的监管，而是询问我们如何有效地划定这些界限，切断我们不希望美国投资者和美国资本市场参与的所有军事类型的AI，但也许允许参与更多无害的商业AI。这是一条非常艰难的界限。我认为政府还不知道如何划定界限。但是在2024年，他们最好有一个答案，因为他们有义务制定这些法规的时间表是在2024年。
H. Andrew Schwartz
你认为2024年中国的AI生态系统会发生什么？
Gregory C. Allen
中国在全球AI的研究方面一直排名第二。他们正在产生非常高质量的研究，正在产生大量的研究和商业应用，有很多伟大的技术巨头，他们实际上正在利用AI赚钱。中国已经落后于美国很长一段时间了，这些出口管制旨在阻止这种情况。问题是中国已经储存了很多这样的AI芯片。因此，英伟达在2023年年中宣布，他们从中国技术公司获得了价值50亿美元的订单，用于AI芯片，他们被合法允许出售给中国。十月份更新的出口管制法规将中断一些销售，因为交付尚未完成，但不会停止所有已经发生的销售。
因此，像腾讯这样的中国公司，他们在社交媒体平台上占主导地位，在很多方面都是一家非常熟练的AI公司。他们宣布他们有足够的AI芯片，他们认为，可以满足未来两年的所有需求。从拜登政府的角度来看，问题是他们采取了这些非常严格的出口管制，但一些公司已经购买了2024年所需的所有芯片。会有一些中国公司可能被排除在外，在最先进的AI研究方面落后。但腾讯肯定不是落后行列的其中之一，可能还有其他公司在囤积芯片。
H. Andrew Schwartz
那么你如何评估2024年的华为？他们的前景如何？
Gregory C. Allen
我认为现在说华为在领导中国队是合适的。他们在中国政府制定半导体政策方面处于非常有利的地位。他们是中国政府支持的行业组织的官方领导者。因此，虽然他们是一家私营公司，但在很多方面看起来像政府的延伸。当然，政府正在全力支持他们。华为拥有先进的芯片设计能力。他们是世界上最早与苹果一起在智能手机中推出7纳米芯片的公司之一。他们自己设计了这些芯片，没有外包。很明显，在他们受到出口管制和被切断先进芯片制造的时间里，设计团队的质量并没有下降。他们仍然擅长芯片设计。
华为最出名的是智能手机芯片，但实际上他们在AI芯片设计方面有很多事情要做。这是他们的上升产品线。他们真正希望做的是打破英伟达在AI芯片市场的主导地位。在拜登政府出口管制之前，英伟达估计在中国拥有95%的市场份额，用于训练AI模型的芯片。而华为在这一领域的产品在所有重要的性能指标上都表现不佳。但现在有了这些出口管制，你就不能购买最好的英伟达芯片。因此，即使华为芯片更差，问题是它们比英伟达实际允许销售的芯片差多少？华为能制造多少芯片？这就是他们在2024年要尝试做的事情。他们将尝试制造最好的芯片，并尽可能多地制造。
