Dario从AI的现状与未来谈起，从编程领域的飞跃到“压缩的21世纪”愿景，为我们描绘了一个快速演进的AI世界。他指出，AI不应被看作取代人类的威胁，而是协同工作的伙伴；AI的使命不仅是提升生产力，更是为企业、科学乃至人类社会打开新的边界。
更令人震撼的是，他提出AI将有能力在未来5到10年内完成原计划百年的科学奇迹，尤其是在医疗等复杂领域，彻底改变人类对不治之症的认知。
AGI什么时候到？
别纠结这个问题了！
Aaron Levie：非常高兴 Dario 今天来到这里。Dario 显然站在 AI 突破的最前沿，所以我们希望你今天甚至能透露一些最新进展。不过，也许可以先问个简单的问题：AGI 什么时候到来？
Dario Amodei：首先，谢谢邀请。至于 AGI 什么时候到来，我不知道。我一直说 AGI 不是个好词。它只是一个持续的指数级增长。就像 1995 年，有了摩尔定律，有人问，我们什么时候会有超级计算机？这个问题没意义。超级计算机只是一台更强大的计算机。
Aaron Levie：你在吐槽我的开场问题吗？
Dario Amodei：模型正在快速变强。
AI的真正里程碑：跨入专业领域的两年窗口
Aaron Levie：如果 AGI 不是一个里程碑，你认为什么是里程碑？
Dario Amodei：我认为一个重要的里程碑是，模型何时能可靠地完成专业工作，就像在座各位公司所做的那样。何时你可以用一个模型，让它完成一些任务，达到专业人士认可的水平，比如在金融、法律、生物医药、保险、办公软件和编程领域。这些不会同时发生，但我认为我们可能正处于一个两年的起步阶段，我们将陆续跨过所有这些门槛。
AI写代码有多厉害？
从3%到50%的飞跃
Aaron Levie：我一会儿会带大家回顾过去，但既然我们聊到这儿了，你认为在软件编码方面，我们现在走到哪一步了？
Dario Amodei：编码是我最看好的领域之一，原因之一是它很容易验证结果。你不需要像机器人那样在现实中测试，也不需要像生物医药那样测试药物。只需要看代码能否编译、运行，能否产生想要的结果。在训练模型时，这允许自动化的闭环反馈；在应用时，可以很容易地检验它是否正常工作，也更容易信任它，因为验证是自动的。所以代码的进展很快。在 SweeBench（一个衡量真实世界软件工程任务的标准）上，Claude 从今年 1 月的 3%（当时所有模型的平均水平）提升到我们最新的 Sonnet 3.5 模型的 50%。
Aaron Levie：这个指标衡量的是什么？
Dario Amodei：SweeBench 包含很多真实的代码修改请求或任务。它实际上是程序员日常工作的片段集合。我们发现它和实际工作表现有很好的相关性。
Aaron Levie：模型没有在测试数据上训练过，对吧？
Dario Amodei：我们用了专门的测试集，没有用来训练。我们对评估越来越严格，因为模型很聪明，会作弊。
Aaron Levie：你认为从 3% 到 50% 的提升会继续加速吗？还是会逐渐减慢？
Dario Amodei：最终只能到 100%。所以提升曲线会逐渐平缓，然后我们会设置更难的基准，比如只有顶级程序员才能完成的任务。肯定会有新的挑战，我们总会发现新的任务。
为什么创立Anthropic？
火箭造好了，还得选对方向
Aaron Levie：我想了解 Anthropic 的起源故事。你很早就加入了 OpenAI，你们对 AI 的发展方向有不同的看法。能讲讲 Anthropic 是怎么诞生的吗？
Dario Amodei：我几乎从 OpenAI 成立之初就在那里，领导了几年的研究。我和后来成为 Anthropic 联合创始人的同事们，主要负责将研究方向从机器人和强化学习转向大型语言模型。我们很早就提出并倡导“规模化假设”或“痛苦教训”，即更大的算力、更大的模型、更多的数据可以完成各种各样的任务。表面上，模型只是预测下一个词，听起来像是高级的自动补全，但为了完成这项任务，它们变得擅长我们今天看到的所有事情，比如编码、摘要、文档分析、各种信息的处理，就像你和你的客户所做的那样。
当我们意识到这一点时，我开始思考它的意义，即我们需要非常小心地开发这些系统，因为它们非常强大。“规模化假设”（scaling laws）就像造火箭，你需要强大的引擎和燃料。引擎就像模型，燃料就像数据。但你还需要控制火箭的方向。如果你想去月球或火星，你需要非常精确地控制方向。所以我们意识到这种“控制”非常重要。当时大家越来越认同“规模化假设”，但我们认为这种“控制”模型的能力是我们的独特之处，我们在企业客户身上看到了很多实际的例子。模型的可靠性、可信度以及它们不会做出意外行为的保证，是企业应用这些模型的关键。
我们在这方面做得最好，这就是为什么我们在企业和创业领域都发展迅速的原因。我们的 API 业务增长速度远超其他公司，但这个问题还没有完全解决。在这个领域还有很多工作要做。虽然我们做得最好，但公平地说，这仍然不是一个完全解决的问题。
Aaron Levie：有人认为更少的数据反而更有用，这种假设是什么？
Dario Amodei：和“规模化假设”相反的观点认为，我们还没有找到正确的算法或科学秘密，需要一些其他的突破。但是，如果你去看 2017 年的大型 AI 实验室，最流行的假设是，我们没有发明正确的架构，也许深度学习本身就是个死胡同。所以很多人在探索不同的方向。现在也有人在这样做，分散投资是合理的，但“规模化假设”的核心地位当时并没有被理解。
数据真的枯竭了吗？
Dario告诉你答案
Aaron Levie：过去两年，我们都被这些模型性能的快速提升所震撼，Claude 也是其中之一。有人认为我们可能遇到了“数据悬崖”，模型的规模可能无法再继续扩大。你对此怎么看？
Dario Amodei：我其实很看好数据。首先，我认为还有很多数据来源没有被利用。
Aaron Levie：现在你需要什么样的数据？
Dario Amodei：总的来说，需要高质量的数据。你可以从互联网上获取海量文本，但其中很多是搜索引擎优化产生的垃圾信息。你需要真正包含知识的数据，而不是重复的废话。所以，一个方向是生成更多高质量数据。
Dario Amodei：第二个是合成数据。有很多方法可以生成合成数据，这很神奇。比如 AlphaGo 的第二个版本 AlphaGo Zero，通过自己和自己下棋就学会了战胜世界冠军。它没有用人类数据训练，完全是自学成才。你可以把这看作一种合成数据。我们也在 Anthropic 做类似的事情。
Aaron Levie：再说一遍，合成数据就是，你要生成一个示例合同或者一段示例代码。
Dario Amodei：对，由模型生成的数据，看起来像真实数据，然后可以用来训练。你可能会问，这不是循环论证吗？模型生成数据，然后用这些数据训练模型。这就是为什么我要举 AlphaGo 的例子。我们找到了让模型通过自学就能变得更强的方法。听起来像是不劳而获
Aaron Levie：如果你方法得当，这不像对着镜子自拍
Dario Amodei：我的意思是，就像生物进化或者市场竞争，这些自组织的过程可以让事物不断优化。
Aaron Levie：所以，你认为“数据假设”和“规模化假设”仍然有效。那么模型在速度、成本和质量方面的改进速度如何？
Dario Amodei：我认为这会继续下去。从产品的角度来看，模型的智能程度、速度和成本之间需要权衡。所以我们提供不同的模型：Haiku 是小模型，便宜、快速，在同等规模下尽可能智能；我们最近发布了 Haiku 3.5；然后是 Sonnet，中等规模的模型；还有 Opus，最大、最智能的模型，但速度更慢，成本更高。我们的目标是不断提升模型的性价比，让明天的小型廉价模型和今天的更强模型一样智能。
Aaron Levie：Opus 和 Haiku
Dario Amodei：比如 Haiku 3.5 在大多数方面和 Opus 3 差不多。所以我们大幅提升了模型的性价比，这会继续下去。如果我们没有更多的数据，我们会依赖合成数据，以及新的方法，比如推理模型。模型的规模还会继续扩大，我们没看到任何放缓的迹象。
Aaron Levie：你提到了 API 业务，我们刚刚发布了 Box AI Studio，客户可以选择 Anthropic 的模型在 Box 内构建智能代理。
总结文档、执行任务、自动化工作流程、提取结构化元数据。你如何看待 AI 在企业中的应用？你认为它将如何影响我们这些知识工作者，甚至是非知识工作者？
Dario Amodei：我之前说过，我强烈地感觉到，AI 提高企业生产力、颠覆各行各业的能力比我们现在看到的要大得多。消费者领域在 AI 应用方面领先，但企业领域正在快速追赶。之所以如此，是因为我之前提到的可靠性和可控性。
你有一个强大的模型，通过 API 提供。你想用它构建一些东西。一个关键问题是，它是否可靠？能否用于面向客户的任务？甚至能否用于内部任务？它的分析质量如何？所以在过去一年半左右的时间里，企业是从一些小规模的试点开始，然后逐步扩大应用范围。初创公司发展最快，有些公司完全基于 AI 模型构建业务，尤其是在编码领域。
但大型企业有更大的潜力，我们开始看到指数级的增长。所以我对企业应用 AI 的建议是，要大胆设想，考虑大规模的应用。幻觉、可靠性、准确性、推理能力等问题，正在逐月得到解决，无论是我们的模型还是其他公司的模型。AI 可以为企业创造巨大价值。初创公司走在前面，但大型企业正在迎头赶上。我认为企业领域的应用很快就会超过消费者领域。
AI会取代工作吗？
其实它在帮我们变强
Aaron Levie：在硅谷和其他地方，一直有一个争论：AI 会取代工作还是创造工作？你目前怎么看？
Dario Amodei：至少在短期和中期内，我认为 AI 会提高人们的生产力，让大家都能让它会全面提升效率，不仅对普通员工，对最顶尖的人才也是如此。有一个经济学原理叫做“比较优势”。假设你正在做一份工作，AI 可以完成 90%。你可能会想，天哪，我的工作要减少 90% 了，或者我的工资要降到 10% 了。但实际上，人们会专注于剩下的 10%，要么将这 10% 扩展成一份完整的工作，要么找到新的工作来补充 AI 的不足。
所以这是一个动态的过程。经济会找到新的工作让人们去做。以前有很多打字员，现在打字很容易了，所以打字员的工作消失了。但在文字处理的基础上，出现了各种各样的新工作，人们有更多时间专注于内容创作。所以，也许未来会出现超级智能 AI，在所有方面都比人类强，但现在还没到那一步。我和很多企业交流过，我看到的是 AI 创造价值，更好地利用人力，而不是取代人力。
经济学家 Erik Brynjolfsson 研究 AI 和自动化对经济的影响已经几十年了。他写过一本书叫做《第二次机器时代》。他说，他的研究表明，企业倾向于用 AI 取代人力，但这往往会导致生产力提升有限。如果企业思考如何让人类和 AI 协同工作，生产力的提升会更大。因为这样才能更好地发挥 AI 和人类各自的优势。
Aaron Levie：我认为关于 AI 导致工作岗位减少的担忧有两个误区。首先是忽略了竞争。假设你用 AI 提高了生产力，你可能会想，我把省下来的钱存起来，增加利润。但你的竞争对手如果把省下来的钱再投资，提高生产力，你就会落后，甚至倒闭。所以，当你提高了生产力，比如销售人员或程序员的效率更高了，你会把省下来的钱再投资到这个部门或者其他部门。
Dario Amodei：你是对的。这就像“劳动总量谬误”。经济中的工作总量不是固定的。如果你提高了效率，就会有新的工作出现。
压缩的21世纪
五年追平百年的技术奇迹
Aaron Levie：这引出了第二个误区，就是静态思维。我们会觉得，AI 帮我完成了这个任务，我就去做下一个任务。但任务是无限的。比如，我看病最大的问题是预约等待时间太长。如果 AI 能提高医生的效率，我就能更快地看上病。医疗保健行业的需求是无限的，如果 AI 能提高生产力的话。说到这里，你最近写了一篇文章，提出了“压缩的 21 世纪”的概念，你的核心观点是什么？
Dario Amodei：我的核心观点是，如果 AI 在大多数任务上都达到了专业水平，并且我们可以构建数百万个这样的系统，就像一个天才之国，数据中心。这是一种前所未有的情况。当 AI 可以立即发明所有可以发明的东西时，会发生什么？我列举了很多理由，为什么我认为不会出现这种情况。但我认为，未来一百年我们计划在科学和工程领域发明的东西，也许可以在五到十年内实现。我以前是学生物学的，所以我特别关注生物医学领域的进展，从学术界到生物技术公司，再到大型制药公司。我认为 AI 有潜力攻克我们面临的许多疾病。很多简单的疾病，比如可以通过卫生、疫苗或抗生素预防或治疗的疾病，我们已经解决了。但像癌症和老年痴呆症这样的复杂疾病，仍然是巨大的挑战。所以我认为 AI 可能是我们理解这些复杂疾病，并找到治疗方法的关键，而且速度会比我们想象的快得多。我们习惯了这些疾病难以治愈，进展缓慢。但我认为不需要这样。如果我们做对了，这些不治之症最终会被攻克，就像我们现在看待鼠疫或腮腺炎一样。
Aaron Levie：我尽量不去想鼠疫。
Dario Amodei：没人喜欢想那个。
Aaron Levie：很高兴我们已经摆脱了鼠疫。所以“压缩的 21 世纪”是指在各个领域加速发展。最后一个问题，你目前最喜欢用 AI 做什么？
Dario Amodei：我很喜欢用它来写代码。可能是因为我们花了很多时间开发 Claude 的编码能力。其次是写作。我写了那篇文章
Aaron Levie：等等，我读的那篇不是你写的？
Dario Amodei：我用 Claude 辅助写作。所有内容都来自我。我发现，如果我想写出真正好的文章，现有的所有大型语言模型都还不够好，但它们很擅长提供思路，帮助我思考。最终版本还是我自己写的。
Aaron Levie：太棒了。Dario，感谢你们的合作，我们很高兴能继续和你们一起努力。谢谢你来参加我们的活动。
Dario Amodei：谢谢。
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来
