👇关注公众号后设🌟标，掌握第一手AI新动态
本文内容整理自山姆·阿特曼接受New York Times Events Youtube频道专访，公开发表于2024年12月04日。原始内容参考：https://www.youtube.com/watch?v=tn0XpTAD_8Q
内容导读：山姆·奥特曼接受纽约时报DealBook峰会专访
本文主要围绕Sam Altman对OpenAI过去两年发展、未来方向以及人工智能技术发展趋势的看法展开，主要观点如下：
ChatGPT的成功并非完全预料之中: 虽然OpenAI内部一直相信大型语言模型的潜力，但ChatGPT的爆火程度和时机仍存在偶然性。GPT-3的发布相对较早，其杀手级应用是开发者在playground中的交互式使用，ChatGPT正是基于此改进而来，使其更容易上手并广泛流行。 AGI（通用人工智能）的临近和影响: Altman认为AGI可能比大多数人预期的更早到来，其带来的经济变革将是渐进式开始，然后迅速加剧。他预计在2025年将出现令人震惊的AI系统，并认为“代理”（Agents）是未来发展的重要方向。 AI发展的三大关键要素及缩放定律: Altman指出AI发展的三大关键要素是算力、数据和算法，它们之间可以相互权衡。虽然算力竞争最为显著，但算法的突破性进展才能带来指数级的收益提升，他坚信AI的缩放定律将继续有效，“没有墙”。 与微软的合作关系及算力获取: Altman承认与微软合作中存在挑战，但整体上认为合作关系积极。他表示OpenAI需要确保获得足够的算力，但并不一定需要自行建造全部数据中心，可以借助云服务商的力量。 对AI安全性的回应和担忧: Altman承认存在对OpenAI不够重视安全的批评，但他认为安全是一个持续迭代和协商的过程，并强调迭代式部署的重要性。他认为极度危险的超级智能离我们还比较远，但需要在技术和政策层面共同努力应对。 对竞争对手的看法: Altman认为xAI将成为强大的竞争对手，并对他们快速建设数据中心的能力表示尊重。但他认为AI技术本身最终会商品化，这并非坏事。 公司发展模式的转变: OpenAI最初是非盈利组织，由于发展需要巨额资金，逐渐转向盈利模式，但非营利组织的初衷和部分工作仍在继续。他解释了公司组织结构调整的复杂性和挑战。 个人持股问题和对未来的展望: Altman解释了自己未持有OpenAI股份的原因，并强调自己对工作的热爱和满足感胜过金钱。他认为人工智能将改变世界，但人类的根本需求和情感不会因此而改变，他期待孩子降生，并认为这比AGI更重要。 对版权和创作者权益的看法: Altman认为需要新的协议来规范AI训练数据的使用，并支持创作者获得报酬的机制，他认为《纽约时报》的诉讼立场是错误的。
访谈全文
主持人安德鲁： 非常感谢你，Sam。感谢你来到这里。我们非常感激。Sam是OpenAI的联合创始人兼首席执行官。正如我之前所说，这是我们时代影响力最大的公司之一。仅仅在过去的几年里，自从ChatGPT发布以来，Sam和他的团队已经将人工智能带入了主流。
他从根本上改变了我们的工作、沟通、创新方式，以及我们对未来将会是什么样的思考。他的公司现在价值约1570亿美元。我应该说，OpenAI不仅引发了一场军备竞赛；它真正地重新定义了技术的可能性。随着他向通用人工智能迈进，我们被迫要认真思考一些关于未来工作、权力平衡、伦理考量以及许多其他议题的重大问题。
我们将与Sam深入探讨所有这些问题。所以，感谢这位处于这一切中心的人物。很高兴见到你。我们从这里开始。两年前，几乎就在这个星期，你们发布了ChatGPT。我认为，可以说，当你按下按钮的那一刻，一切都乱套了。
确实感觉是这样。它改变了全球对话，改变了融资重点，并转移了资源的流动。其他科技公司也改变了他们的做事方式。已经出现诉讼以及各种反应。所以，我非常好奇，能否请你带我们回到两年前，几乎是同一天或同一周，分享一下你当时按下按钮时预期的结果。
山姆·奥特曼： 总的来说，我们一直都知道，会有一些时刻，无论出于什么原因，世界都会从不理解到理解。突然之间，这项技术是有效的这一点会变得清晰明了。在内部，那时对我们来说，语言模型会不断扩展，并且会做所有这些有用的事情，这似乎非常明显。
为什么它在ChatGPT发布时发生，我的意思是，我有一些理论，但为什么它在当时发生，而不是在我们之前发布GPT-3和API时发生，或者为什么它直到几个月后GPT-4发布才发生，这是一个有趣的问题。当它真正流行起来时，似乎有一些偶然的因素。然而，我们通过API和GPT-3观察到，GPT-3有点早期，它并不适用于很多事情。
从某种意义上说，它的杀手级用例之一是开发者在playground（游乐场）中使用它，在那里他们可以在实现API之前快速测试想法。他们喜欢与模型对话；他们会坐在那里，与GPT-3进行关于任何事情的对话。这是人们主要使用它的方式。
所以我们说，如果这就是人们想要的，我们可以让它更容易使用。你不需要注册开发者帐户并执行所有其他操作，我们可以对其进行调整以擅长对话。所以我们说，好吧，让我们把它做成一个产品。
现在，我们实际上一直在计划用GPT-4来发布它。我们在2022年8月完成了GPT-4，但我们将其保留了一段时间。但是你是否预料到这一切都会发生？再说一次，在某个时刻，我们认为世界上会有一件大事发生。我们知道它会恰好在ChatGPT发布时发生吗？当然不是。
主持人安德鲁： 所以现在，两年后，我们所有人都在问的下一个大问题是，我甚至不敢相信我们只是在两年后才问这个问题，而你实际上刚刚写到了这个问题。你说我们有可能在接下来的几千天内拥有超级智能。两年前，你这么认为吗？当你提到几千天时，我可以对这意味着什么进行各种计算。那么，
山姆·奥特曼： 我的意思是，存在很大的不确定性，而且对超级智能的定义也不同。是的，两年前，我们认为我们正处于一条非常陡峭的曲线之上。我的意思是，我们创建OpenAI是因为我们认为这是可能的，而且可能不会太遥远。而且进展顺利，但我们希望它会进展顺利。就像，我们相信深度学习是人类令人难以置信的新发现。我们认为它可以达到这个目标，我们有责任让它达到这个目标，让它进展顺利，并广泛分享其益处，是的，我们确实认为我们可以做到这一点，我们仍然相信我们可以做到这一点，但这并不确定。仍有工程方面的工作要做，但我认为这是可能的。而且我认为这并非遥远的未来。
我预计在2025年，我们将拥有这样的系统，即使是对当前进展持怀疑态度的人也会说，“哇，我没想到会这样”，这确实会改变什么？我认为，代理（Agents）是每个人都在谈论的事情，我认为这是有充分理由的。你知道，这个想法是你可以给一个AI系统一个相当复杂的任务，就像你交给一个非常聪明的人的任务一样，需要一段时间才能完成，并使用一堆工具来创造一些有价值的东西。这就是我明年期待的那种事情。这是一件大事。我们谈论这件事就像，“哦，你知道，这件事将会发生”。但这是真的。如果它像我们希望的那样有效，那它真的可以改变很多东西。
主持人安德鲁： 好的，那我们应该怎么想呢？在过去几周里，有很多标题新闻谈论到人工智能的缩放定律实际上正在放缓。你发布了这条——我不知道是含糊其辞还是非常直接——你发布了一条推文，上面写着，“没有墙”。
山姆·奥特曼： 看看还有什么比这更不含糊的方法。这完全是一次试图不含糊其辞的尝试，说，“嘿，这将会继续下去”。事实上，希望这至少能暂时解决这个问题。是的，我一直对人们多么喜欢推测“有墙吗？”、“缩放会继续下去吗？”感到震惊，而不是仅仅查看进展曲线，然后说，“也许我不应该与这样的指数增长作对”。无论如何，我们还有很多很棒的新东西。所以我们正在为假期做一些有趣的事情。我们从明天开始进行12天的OpenAI活动。但是我们将发布。我们将每天发布一些东西或进行演示，持续接下来的12个工作日。在不透露太多关于明天的事情的情况下，是持续的进步。
主持人安德鲁： 然后给我们一点提示，如果它明天就要开始了的话。
山姆·奥特曼： 我不想剧透。等待的时间并不长。
主持人安德鲁： 我不擅长等待。我想知道。然而，关于人工智能的一个重大问题是，这与缩放问题有关，那就是需要多少数据以及实际上需要什么才能继续缩放。有多少是关于纯粹的处理能力，因此是资本，对吧？与数据相比，你从哪里获得数据，这个合成数据、数字数据的想法，我们将在此基础上重新创建数据？在这个阶段，实际上需要什么才能扩展？当人们甚至谈论一些限制因素时，我认为其中包含了一些关于哪个部分将获得这个的问题。
山姆·奥特曼： 所以三个关键要素——当然还有其他要素，但三个关键要素是算力、数据和算法。有时你可以权衡它们。比如，如果你有更好的数据，就可以减少算力的使用；或者，如果你有更多的算力，就可以用它来生成合成数据，从而获得更多数据。一段时间以来，我们在算力方面获得了令人难以置信的容易的收益。最近，我们在算法方面取得了很多进展。但是你需要同时推动这三个要素的发展。在不同的时间，对其中一个或另一个要素的投入可能会有不同的回报，但我倾向于将这三个要素都考虑在内。
主持人安德鲁： 但是对你来说，算力，我猜想，是最大的因素？如果你没有算力，其他一切都不重要。
山姆·奥特曼： 我的意思是，在某种意义上，算法的进步才是最重要的，最大的因素。你知道，也许你可以将计算机的规模扩大一倍。也许随着时间的推移，通过大量的资金投入，你可以将计算机的规模扩大10倍。但偶尔，算法上会带来1000倍的收益。Transformer就是一个很好的近期例子。这种情况很少见，但一旦发生，就是最大的收益。
主持人安德鲁： 所以现在感觉像是在进行一场算力军备竞赛，对吧？一场为算力筹集资金的军备竞赛；一场建造和获取更多算力的军备竞赛。你与微软有合作关系，你现在依赖于他们。
山姆·奥特曼： 我认为所有这些方面都在进行竞争。算力竞争是最有趣、最引人注目、数字最大的那一个。它得到了最多的关注，确实非常重要，我不想轻视它。但肯定也有大量的努力投入到谁能想出最好的算法、谁能获得新的数据源上。所以我认为这三个方面都在竞争。
主持人安德鲁： 你和微软确实有合作关系。是的。有时它被描述为，以最好的方式来说，一种科技上的“兄弟情”。然后我刚读到Alex Heath的文章，他写道，微软和OpenAI显然正在逐渐疏远。
山姆·奥特曼： 我认为我们并没有疏远。听着，我不会假装没有不一致或挑战。显然，有一些。但总的来说，我认为这对两家公司来说都是一件非常积极的事情，并且很高兴能够一起做更多、更多的事情。
主持人安德鲁： 但从长远来看，你认为你需要拥有自己的算力，而不是依赖其他人吗？
山姆·奥特曼： 不，事实上，我认为我们需要确保获得足够我们想要、可以依赖的算力。也可能有一些原因，我们有一些关于我们想构建的东西的非常疯狂的想法，这些想法，你知道，是高风险、高回报的。
但我们当然不需要OpenAI变得非常擅长建造像大型数据中心那样的计算机。事实上，其中一件事情，也许这是我成长方式的结果，是我作为那一代初创公司创始人之一长大，当时的情况是，在那段时间之前，每个人都必须自己建造硬件，你们有这些大型数据中心。
然后突然之间，AWS改变了局面。对。所以我一直都是这么想的。我很乐意我们说，好吧，我们将不得不自己建造东西，或者随着时间的推移，垂直整合会变得更重要。
但专注于研究和产品，做我们正在做的事情，真的很好。
主持人安德鲁： 但我之所以这样问，是因为这会造成一种朋友、敌人、亦敌亦友的局面，我想，你有你的产品。你知道，我昨天实际上用它来检查了一些事情。效果如何？很好。很高兴听到这个消息。顺便说一句，我们稍后会请Sundar来。你们正在做的搜索产品非常吸引人。
山姆·奥特曼： 它真的很酷。我不得不说，这是我们推出的我最喜欢的产品。谢谢你说这些。这是我很久以来推出的我最喜欢的产品。我经常使用它，并且非常满意。它彻底改变了我使用互联网的方式。
主持人安德鲁： 但我之所以这样说，是因为你们的关系是这样的：微软在Copilot中使用你的产品；苹果现在也在使用你的产品；然后你们自己也销售自己的原生产品。在某些时候，利益是否不再一致？我之所以这么说，是因为包括《纽约时报》在内的一些报道暗示，对于你们获得多少算力和访问权限，以及OpenAI的员工应该使用的某些微软产品（他们可能不想使用）的要求方面，存在一些不满。我只是想了解所有这些。
山姆·奥特曼： 在不同的时间，肯定存在真正的算力紧缺。同样，我们的产品规模已经扩大。两年前，我们几乎没有业务。现在我们每周有超过3亿活跃用户。我们的用户每天向ChatGPT发送超过10亿条消息。我们拥有非常庞大的开发者业务。我认为大约有130万美国开发者，全世界还有更多。所以我们需要大量的算力，比我们预测的还要多。这在商业史上是不同寻常的快速扩张，这方面确实存在压力，但我没有听说有人因为使用微软服务而感到沮丧。你知道，我们拥有庞大的平台业务，我们拥有庞大的第一方业务，许多其他公司都在管理这两件事。
我们擅长一些事情。微软擅长一些事情。再说一次，并非没有压力，但总的来说，我认为我们的目标是相当一致的。
主持人安德鲁： 听起来确实有点紧张。当然。但在通用人工智能方面，因为你总是说，你和他们的交易的一部分是，如果你真的实现了通用人工智能，那么交易可能会被取消。听起来你好像快成功了。
山姆·奥特曼： 我们也说过，我们的目标是将AGI视为沿途的一个里程碑。我们给自己留下了一些灵活性，因为我们不知道会发生什么。但我猜想，我们将比世界上大多数人想象的更早实现AGI，而且它的重要性会小得多。我们和其他人表达的许多安全担忧实际上并没有在AGI出现的那一刻到来。就像AGI可以被构建出来。世界基本上还是按照同样的方式运行。经济发展得更快。事情发展得更快。但随后，从我们所说的AGI到我们所说的超级智能，会有一段持续不断的延续。
主持人安德鲁： 那时我们才应该担心。我的意思是，我记得你甚至在过去的几年里，你在华盛顿和其他地方告诉我们应该感到紧张。
山姆·奥特曼： 确实如此。好吧，首先，即使在AGI（通用人工智能）到来之时，我认为仍然有一些值得担忧的事情。我预计经济的颠覆性变化会比人们想象的持续更久一些，因为社会存在着巨大的惯性，但其强度也会比人们想象的更剧烈。所以，最初几年可能变化不大，然后经济可能发生剧烈的变化。我不相信“无业”的说法，我认为我们总会找到事情可做。但是，每一次重大的技术革命都会带来大量的职位更替，而我敢打赌，这次的变革速度将前所未有。因此，我认为在相对较短的时期内，我们需要担心类似这样的问题。但那些极其危险的事情，我认为，离我们还比较远。
主持人安德鲁： 你相信政府或其他人能够想出办法避免这种情况吗？
山姆·奥特曼： 我相信研究人员能够想出办法避免这种情况。我的意思是，我认为有一系列的技术难题，世界上最聪明的人将会致力于解决这些难题。我天生比较乐观，所以我假设他们能够解决这些问题。我们正在非常努力地工作，其他人也在非常努力地工作。我认为摆在我们面前的任务还有很多，但我同时也认为我们拥有这项神奇的——并非魔法，而是这项令人难以置信的科学成就——深度学习，它可以帮助我们解决这些非常棘手的问题。我认为我们会把这件事做好。
而围绕AGI的社会问题，不仅仅是几年后就能完成大量工作并创造巨大经济价值的那种AGI，而是真正的超级智能，那种不仅仅比你聪明，比我聪明，甚至比我们所有人加起来都聪明的系统，拥有令人难以置信的能力。即使我们能够在技术上确保它的安全，而我假设我们会做到这一点，我们也必须对我们的政府抱有一定的信心。这将需要一些相关的政策措施，并且需要在一定程度上进行全球协调，我认为这种情况将会出现，但这似乎是一个挑战。
主持人安德鲁： 好吧，这就是安全问题。我们都读过相关的新闻标题，你本人也多次出现在新闻标题中。在过去一两年里，有许多人，包括OpenAI内部的一些人，他们要么离职，要么公开发表意见，或者采取其他行动，他们说，这些人对安全不够重视，对吧？你必须回答信任问题。请说明一下，以便我们理解。当人们说对安全关注不够时，你认为是什么情况？具体是什么问题？应该做的事情没有做到？
山姆·奥特曼： 我会指出我们的过往记录。我会说，我们谈到过我们推出了一款伟大的产品。这是一项非常新兴的技术，发展速度非常快。一开始，我们并不知道如何很好地对其进行对齐。而现在，它普遍被社会认为是安全可靠的。安全，这始终是一个由许多利益相关者协商达成的协议。也许很难准确定义它意味着什么……
主持人安德鲁： 对于儿童版GPT来说，安全意味着什么。但我之所以这么问，是因为当我们听到一些离开公司并公开发表言论的人，他们在推特上说，这些人并不重视安全。这是关于安全资源的问题吗？是关于处理能力的问题吗？是关于你们的关注度的问题吗？
山姆·奥特曼： 肯定有人认为ChatGPT不够安全，它允许它不应该做的事情，或者没有做它应该做的事情。有些人会在这方面施压。有些人会说，好吧，ChatGPT也许比我们想象的要安全一点。但是下一个系统的计划是什么呢？我们要如何处理这个问题呢？还有一些人会说，发布这样的系统本身就不安全，因为OpenAI加速了全球的竞争，这让我们用来处理安全问题的时间更少了。所以我们相信，这是一个有主观意见的立场，这种迭代部署的想法非常重要。我们必须将这些系统投放到世界中。社会和技术必须共同发展。你必须从风险较低的时候开始。你必须了解人们将如何使用它，以及它在哪些方面不起作用，哪些方面有效。还有一些人会说，当然，这样做有一些好处，但这不值得付出相应的代价。
主持人安德鲁： 让我问一个不同的问题。也许它可以追溯到处理能力的问题。我打算提到，埃隆·马斯克正在建造他自己的处理设施，实际上是巨大的处理能力实验室，来为xAI提供动力。我问你是否需要你自己的处理能力的原因之一是，似乎每个人都在获取自己的处理能力。我们之前刚刚与肯谈论了埃隆·马斯克。埃隆·马斯克在这些年中与你们的关系相当独特，他既是创始人，也是现在正在起诉公司的人。你认为xAI在多大程度上是你们的竞争对手？我们总是谈论谷歌，显然如此。我们也谈论Anthropic，并在某种程度上谈论微软。我不知道你认为亚马逊处于什么地位。我们今天下午会与杰夫·贝佐斯谈谈。但你是怎么看待这个问题的？他们是竞争对手吗？你认为他们是你们最大的竞争对手之一吗？看起来他们发展得非常迅速。
山姆·奥特曼： 是的，我认为他们将成为一个非常强大的竞争对手。
主持人安德鲁： 你预料到这一点吗？他们在做什么？他们做了什么，他们是如何能够如此快速地组建一家公司，虽然我并不是说它与你们正在做的事情可以相比，但它已经非常接近，发展速度非常快。这是什么原因？
山姆·奥特曼： 嗯，目前处于前沿的许多模型都非常接近了。但我确实非常尊重他们建造数据中心的速度。
主持人安德鲁： 顺便问一下，你担心所有这些都会因此商品化吗？我的意思是，我并不是说任何人都能做到，但这看起来就像，你们的优势是什么？顺便说一句，你们的劣势是什么？
山姆·奥特曼： 我认为这项技术本身，如果你相信深度学习就像某种物理定律，我们发现了一项重要的新的科学成果，那么，是的，这部分工作将会由很多人来完成。每个人都有自己对人工智能的比喻。你知道，桑达尔（Sundar Pichai）一会儿会来这里。他把它比作电力；许多其他人把它比作工业革命，而有些人则称之为文艺复兴。
我喜欢的一个比喻是晶体管。这是一项科学发现，一些公司首先发现了这项发现，它改变了我们的社会，并且扩展得非常好。当人们谈论规模定律时，我认为最好的比喻是摩尔定律。这个概念被世界各地的许多公司使用。如果你看看这个房间里所有带有晶体管的东西，我们不会把它们看作晶体管设备，我们也不会认为谷歌是一家晶体管公司，尽管如果没有晶体管，他们就不会存在。
我认为人工智能也将发生这种情况。将会有令人震惊的强大模型，广泛可用，并用于一切事物。未来的人们会无法想象他们使用的设备、产品和服务不是真正智能的。
他们不会都自称是人工智能公司或人工智能产品。从某种意义上说，人工智能本身，也就是它推理引擎的本质，将会商品化。这很好。这很好。科学应该传播到整个社会。这就是为什么我们专注于构建像ChatGPT这样的东西。
主持人安德鲁： 另一个问题，也跟埃隆有关，就是你们公司现在正转向盈利模式，而现在是公益性质的。众所周知，如果大家看过新闻报道，他正在就此事以及其他许多事情起诉你们。我其实只想从非常私人的角度问问你，先抛开案件本身的优劣不谈，作为一位与他共事多年、共同创立这家公司的人，你今天对这一切有什么感受？
山姆·奥特曼： 这令人极其难过。我从小就视埃隆为超级英雄。我认为埃隆所做的一切对世界来说都非常不可思议。当然，我现在对他的感觉有所不同，但我仍然很高兴他存在。这不仅仅是因为——不，我是认真的——不仅仅是因为我认为他的公司很棒（我确实这么认为），而是因为他，在一个大多数人并没有抱有远大抱负的时候，他激励了包括我在内很多人去更有野心地思考，
我很感激，这词好像不太贴切，但我更愿意说是感谢。我对这一点持积极态度。你知道，我们一起创立了OpenAI。然后在某个时候，他完全失去了对OpenAI的信心，决定走自己的路。这也没什么问题。但我认为埃隆是一位建设者，一个……你知道，关于埃隆，大家都知道的一点是，他非常在乎成为那个“领头人”。但我认为他是一个，如果他不是，就会在市场、技术或其他领域竞争，而不是诉诸法律诉讼。而且，不管申诉中陈述的内容是什么，我认为他只是，他是一个竞争对手，而我们做得很好。看到这种情况让人很难过。
主持人安德鲁： 我必须问你这个问题，《华尔街日报》上有一篇文章，你、杰夫·贝佐斯，以及其他一些他的主要竞争对手都在其中。文章中推测，像你这样的人担心他的影响力，不仅是他在科技领域的势力，还包括他现在与当选总统的密切关系。
山姆·奥特曼： 我实际上并不担心。我对此深信不疑，我可能最终会错，但我非常相信埃隆会做正确的事，而美国人如果利用埃隆所拥有的这种政治权力来伤害竞争对手并让自己的企业获益，那将是极度不美国的行为。我认为人们不会容忍这种行为。我认为埃隆也不会这么做。这会严重违背我认为他非常珍视的价值观，所以我并不担心。
主持人安德鲁： 好的，最后一个相关问题，然后我想问一个关于公司发展方向的不同技术问题。他提出的其中一个指控是，他认为你们公司现在规模太大了，没有竞争，你们试图通过阻止潜在的资助者同时资助你们和例如XAI或其他公司来阻止竞争发生。这是不正确的。
山姆·奥特曼： 我们所说的，这是一个非常标准的做法，我们所说的就是，如果你投资我们，并且想投资我们的任何竞争对手，那完全没问题。我们会停止你的信息知情权。你仍然可以这样做，但这对于我们规模的公司来说是一个非常标准的条款。你知道，我们不会再告诉你我们的研究路线图了。每个人都觉得这很合理。但同样，这就像，你想投资他们？去投资吧。
主持人安德鲁： 让我问你一个关于公司本身的不同问题。你们最初是以非盈利组织的身份启动的，最初是一个研究机构。现在，我认为有一种观点认为它必须转变为某种盈利导向的公司。它必须这样做吗？
山姆·奥特曼： 首先，我想谈谈我们一开始就以非营利组织身份启动的原因，因为我认为这也能说明问题的答案。在我们开始的时候，我们根本不知道我们会成为一家产品公司。我们也不知道我们需要的资金会如此之巨。如果我们知道这些事情，我们会选择不同的组织结构。很难夸大其词，因为时间不算很久远，但很难夸大2016年的情况有多么不同，那是在我们拥有产生语言模型的研究成果之前的几年，那是在我们发布第一个产品之前的四年半，那是在我们发布ChatGPT之前的六年半。我们只知道我们想做一些人工智能研究，并且我们认为AGI和超级智能最终将成为对世界来说非常重要的事情。我们想做一些对世界有益的事情。
当时，我们正在撰写论文、开发新的强化学习算法、创建新的理论、研究如何玩电子游戏以及制造机械手。当时并不清楚是否会有产品或收入来源。此外，也不清楚我们是否需要收入来源，因为似乎我们不需要大量的资金。
然而，在GPT-1和其他一些工作的发布之后，我们意识到我们需要扩大规模。与此同时，埃隆决定停止资助我们这个非营利组织，我们发现很难找到替代的资金来源。这种情况让我们意识到，我们需要找到一种方法来产生有限的利润。
我们致力于继续许多我们认为作为非营利组织是有益的举措。因此，我们成立了一家利润有限的子公司，这种模式运作了一段时间，在某些方面，目前仍然运作良好。然而，在其他方面，鉴于我们在下一阶段所需的资金量，它正在对非营利组织控制的组织的理论框架造成压力。
因此，我们一直在探索可能的改变。目前还没有做出任何决定，正如你所能想象的那样，弄清楚这件事非常复杂。
董事会正在努力解决这个问题，无论采用哪种配置，非营利组织都不会消失。例如，董事会考虑过的一种方案是，由非营利组织拥有大量股份的PBC（公共利益公司），然后想办法利用这笔财富来实现非营利组织的目的。还有其他的想法。是的。
主持人安德鲁： 我一直很好奇的一件事是，你从未在公司中持有股份。我认为你比我更在意这个问题，我很惊讶。你的工资是7.6万美元，我看过。我相信你说的。就是这样。如果公司真的出现这样的时刻，人们期望你会得到一些股权。媒体对此有很多报道。
山姆·奥特曼： 关于这个问题，也有一些投资者的压力。听着，我没有获得股权这件事很奇怪。
主持人安德鲁： 你想要吗？
山姆·奥特曼： 不，我不想。如果我能回到过去，我会拿一点点，只是为了不必再回答这个问题。无论我多少次尝试向人们解释，我拥有世界上最有趣、最酷的工作。这就是我的退休生活。
是我梦想中度过时间的方式，在我拥有相当不错的职业生涯之后。人们可以从事艺术项目而不为此获得报酬，没有人觉得奇怪，或者其他什么，这只是……没有传达出来，所以我希望我当时拿了一些。我不认为我会因此工作更努力或更不努力，我认为我会与投资者或其他人的目标更加一致，而且这肯定更有利于融资。有很多投资者没有投资，因为我没有持有股权。
主持人安德鲁： 他们说，真的，这很有趣。他们不会投资，因为你没股权。
山姆·奥特曼： 这个问题出现过几次，是的。
主持人安德鲁： 所以如果公司现在估值1570亿美元，如果这种情况发生，你认为一个合适的数字是多少？再说一遍，我认为你应该更多地考虑这个问题。我们的时间快到了，所以我必须再问几个快速的问题。其中一个，而且需要完全公开，我们应该说明一下。
山姆·奥特曼： 在你继续之前，我能就这一点再多说一句吗？我知道时间紧迫，我会很快的。就像，我……这是我儿时的梦想工作。不是每天，不是每天都这样。我宁愿不，你知道，一直撞得头破血流。但是能够从事AGI的研究，并且能够与世界上最聪明的研究人员一起工作，参与这场疯狂的冒险，这正是我一直想做的。这真的是我儿时的梦想。除了所有这些古怪的事情之外，我认为至少应该可以理解，这对我来说比任何额外的金钱都更有价值。
主持人安德鲁： 说得对。谢谢。让我问你这个问题，如果我不提它，我就失职了。碰巧《纽约时报》公司正在就使用内容进行训练对OpenAI和微软提起诉讼。在这个房间里有很多内容创作者和其他人士靠创作内容为生，我只是很好奇，我知道你不能谈论诉讼本身，但对于在这个房间里写过书、写过文章、拍过电影等等，其信息已被用于训练的人（无论是在开放网络、封闭网络还是YouTube上），我们应该有什么样的感受？
山姆·奥特曼： 我认为我们需要一个新的协议、标准或任何你想要称呼它的东西，来规范创作者如何获得回报。我非常相信学习的权利，或者任何你想要称呼它的权利。如果一个AI阅读了一些东西，一本物理教科书可以学习物理学；它可以用这些知识去做其他事情，就像人类一样。我认为版权法和合理使用法的这些部分确实需要继续适用。
然而，我认为我们正在开始探索，其他人也在探索一些额外的东西。我一直以来特别热衷于研究如何实施微支付。例如，如果你用安德鲁·罗斯·索尔金的风格创作了一个故事，你应该可以选择允许使用你的姓名、肖像和风格，并因此获得报酬。还有许多其他的想法。
我认为关于合理使用的讨论处于错误的层面。当然，我们非常相信学习权利方法的必要性。但我真正认同的部分是需要找到新的经济模式，让创作者拥有新的收入来源。
关于《纽约时报》，我不相信作为客人出现在别人的家里却行为粗鲁。但是，我要说的是，我认为《纽约时报》站在了历史的错误一边。
主持人安德鲁： 在很多方面都是如此。我们可以讨论和辩论这个问题。我认为，我们会在法庭上这样做。期待见到你。我最后想问你的问题几乎与技术无关，但也许有关，那就是你个人生活中明年将发生一件非常令人兴奋的事情，你将拥有自己的孩子。是的。对于所有父母和准父母来说，他们都在思考人工智能将如何影响我们的生活，甚至我们作为人的意义是什么，如果机器真的能够做我们真正做不到的事情。我们应该做什么，我们应该如何思考它，它对我们自身尊严的影响是什么。当你有了孩子，并且你正在思考并与孩子交谈时，你认为你会告诉他们关于我们即将进入的这个新世界什么呢？
山姆·奥特曼： 没有什么能比得上……我的意思是，我相信拥有孩子会更加强烈，但即使是像真正准备好要孩子一样。至少对我来说，没有什么比这更能使AGI显得无关紧要的了。我对AGI的兴奋程度，我认为已经相当高了，但对拥有孩子的兴奋程度要高得多。它确实让我从另一个角度看待什么才是真正重要的。我认为这是一个对一般现象的具体视角，那就是我们长期以来一直在开发令人难以置信的新技术。每次发生这种情况时，人们都会进行这些对话。你知道，这意味着什么？工业革命来临了。机器夺走了我们所有的工作。这意味着什么？电脑革命来临了。电脑取代了许多现有的工作。这意味着什么？
答案是，至少就人类的意义而言，并没有太大的影响。经济会增长。人们从事的工作类型会发生变化。人们会更关心他们的孩子，比他们关心AGI或任何其他技术所能带来的任何东西都要多得多。深刻的人性驱动力是如此强大，并且已经存在了很长时间。进化漂移非常缓慢。所以，你知道，我认为在某种意义上，我的孩子将在一个与众不同的世界中长大，但在某种程度上，它将完全相同。
主持人安德鲁： 山姆·奥特曼，各位。非常感谢你们的谈话。谢谢。你们进行了一场精彩的谈话。谢谢。
参考资料: https://www.youtube.com/watch?v=tn0XpTAD_8Q，公开发表于2024-12-04
关注公众号后设🌟标，掌握第一手AI新动态
