OpenAI 放大招！明天开始连续12天线上直播！

科技 2024-12-05 21:42 北京

来源：Web3天空之城

今天，Sam Altman在最新的Dealbook Summit上放了一个大卫星：从明天开始，连续12天线上发布全新产品和demo。

以下是访谈的一些重要内容和访谈全文。

奥特曼认为，超级智能时代即将到来，很可能比大多数人想象的更快。他预计在2025年，AI系统将取得显著进展，即使是那些对当前AI发展持怀疑态度的人也会感到惊讶。他认为AGI（通用人工智能）是一个重要的里程碑，但从AGI到超级智能还需要一个漫长的过程。

代理(Agent)技术的突破：对于AI的未来发展，奥特曼认为“代理”技术将是AI发展的重要方向，它可以让AI系统像人类一样完成复杂任务。

萨姆·奥特曼在访谈中谈到了OpenAI与微软的合作关系。合作是积极的也有挑战。

合作的积极意义包括获得计算能力，技术互补和市场推广。OpenAI 进行人工智能研究和开发需要巨大的计算能力，而微软能够提供强大的云计算资源。微软在软件工程和云计算方面拥有丰富的经验，可以帮助 OpenAI 将其技术转化为实际产品。同时市场渠道可以帮助 OpenAI 推广其产品和服务。

但和微软合作中的挑战也很明显:

计算资源紧张: OpenAI 的产品发展速度非常快，导致对计算能力的需求远远超过预期，这在一定程度上造成了与微软之间的紧张关系。
利益冲突: OpenAI 和微软都在开发人工智能产品，两者之间存在潜在的竞争关系。
控制权问题: 微软作为 OpenAI 的主要投资者，对 OpenAI 的发展方向和决策具有一定的影响力，这可能会引发一些关于 OpenAI 独立性的担忧。

OpenAI是否需要自建计算能力？奥特曼认为 OpenAI 需要确保获得足够的计算能力，但这并不意味着 OpenAI 需要自己构建硬件。他认为专注于研究和产品开发，并与像微软这样的云计算提供商合作是更有效率的方式。

在访谈中，主持人明确提到有 OpenAI 前员工公开质疑 OpenAI 对安全问题的关注不足。奥特曼针对这些质疑进行了不同角度的回应：

强调 OpenAI 的安全记录：ChatGPT 作为一项全新的技术，在推出初期确实存在一些安全问题。但是，经过 OpenAI 的不断改进，ChatGPT 现在的安全性和稳定性已经得到了社会普遍认可。他认为 OpenAI 的安全记录足以证明他们对安全问题的重视。

解释 “安全” 的定义：对 ChatGPT 这样的产品来说，“安全” 的定义很难精确界定，它是一个需要多方协商的结果。他暗示，一些前员工对 “安全” 的理解可能与 OpenAI 存在差异，这导致了他们对 OpenAI 的质疑。

强调 OpenAI 对安全研究的投入：OpenAI 投入了大量资源进行安全研究，并与其他研究机构合作，共同探索如何确保 AI 系统的安全可控。

最近埃隆·马斯克与OpenAI的关系是大家特别关注的，尤其即将掌控DOGE政府部门的马斯克还在继续上诉要求OpenAI不能变为盈利实体。

奥特曼承认，埃隆·马斯克是OpenAI的联合创始人之一，他最初参与创建OpenAI的目的是为了确保人工智能技术能够安全地造福人类。奥特曼认为马斯克退出OpenAI的原因是他对OpenAI的发展失去了信心，并决定走自己的路。

==访谈全程书面全文版==

主持人：

萨姆在这里。非常感谢萨姆。

萨姆当然是OpenAI的联合创始人兼首席执行官。正如我之前提到的，这是我们时代最有影响力的公司之一。在过去的几年里，自从ChatGPT推出以来，萨姆和他的团队将人工智能带入了主流。他从根本上改变了我们的工作、沟通、创新的方式，以及我们现在对未来的思考。他的公司现在的估值约为1570亿美元。我应该说，OpenAI不仅仅引发了一场军备竞赛，它真正重新定义了技术的可能性。

随着他朝着通用人工智能的方向迈进，我们被迫面对一些关于未来工作的重大问题，关于权力平衡，关于伦理问题，以及其他许多事情。我们将与萨姆深入探讨这一切。所以谢谢你，位于这一切中心的人。

Sam：感谢你的邀请。很高兴见到你。

主持人：

所以我们从这里开始。两年前，几乎就在这个星期，你们推出了ChatGPT。我认为可以公平地说，当你按下按钮时，从那时起，所有的事情都失去了控制。确实有这种感觉，它改变了全球的对话，改变了融资、优先事项和资源的分配。其他科技公司也改变了他们的做事方式，已经有很多诉讼，所有这些事情。

所以我很想知道，你能不能带我们回到两年前，几乎如我所说的，恰巧是那一天或那周，以及你按下按钮时的想法。

Sam：

从抽象的角度来看，我们一直知道会有那么一个时刻，无论出于什么原因，世界会从不理解转变为理解。而突然之间，这项技术显然起作用了。在内部，那时对我们来说，语言模型将会不断扩展，它们会做所有这些有用的事情，似乎非常明显。

为什么这一切发生在ChatGPT发布之际，我有一些理论，但为什么是在那个时刻，而不是在我们早期发布GPT-3和API时，或者为什么在几个月后GPT-4发布之前没有发生。为什么正是在那个时刻？

我认为，确实存在某种偶然性，使得它真正火起来。

不过我们观察到，通过API和GPT-3，GPT-3有点早，诸多功能并未发挥作用。但在某种意义上，它的一个杀手级应用场景是开发者在游乐场中。你可以快速测试想法，然后再实现API。他们喜欢和模型交谈，常常坐在那里，与GPT-3进行各种话题的对话。这几乎是人们使用它的主要目的。所以我们说，如果这是人们所需要的，我们可以让它更易于使用。这样，你不必注册开发者账户和做其他所有事情。我们可以调整它，使其更擅长进行对话。于是我们决定，将这作为一款产品。

现在，我们实际上一直计划在 GPT-4 发布时推出它。我们在 2022 年 8 月左右完成了 GPT-4，但我们拖延了一段时间。

主持人：但你期待这一切会发生吗？

Sam：在某个时刻，我们认为世界上会出现一个重大时刻。我们知道那会是与 ChatGPT 的发布同步吗？当然不是。所以，现在我们已经过了两年。

主持人：

我们大家都在问的下一个大问题，我简直不敢相信我们竟然在两年后才问这个问题。而你实际上刚刚写到这个。你说在几千天后我们可能会拥有超级智能。两年前，你认为会吗？

Sam：

当你提到几千天时，我可以用不同的数学方式来理解这意味着什么。存在广泛的不确定性，对于超级智能的定义也有不同的看法。

是的，两年前，我们认为我们正处于一个相当陡峭的增长曲线。我们创办OpenAI是因为我们认为这是可能的，而且也许离我们不远。进展得不错，但我们希望它能顺利发展。我们相信深度学习是一项人类难以置信的新发现。我们认为它可以发展到一个新的高度，并且我们有责任让它达到这个高度，确保其顺利推进，并广泛分享其带来的好处。是的，我们确实认为我们能到达这里，而且我们仍然相信我们可以到达这里。这并不是确定的。、

还有大量的艰苦工作、研究和工程需要完成，但我认为这是可能的，而且我认为在不久的将来这是可能的。我预计在2025年，我们将会有一些系统让人们瞩目，即使是那些对当前进展持怀疑态度的人也会说，哇，这我没有想到。

主持人：这会改变什么？

Sam：

我认为，代理是每个人都在谈论的话题，这有充分的理由。这个想法是你可以为一个人工智能系统指派一个相当复杂的任务，就像你给一个非常聪明的人一个需要一段时间来完成、使用一系列工具并创造出有价值的东西的任务。这就是我对明年的期望。这真的是一件大事。当我们谈论这个的时候，就会说，这件事情要发生了。就是这样。如果这项技术的效果如我们所希望的那样，它确实可以改变很多事情。

主持人：

好吧，我们应该怎么想呢？在过去几周里，关于人工智能的规模法则实际上正在放缓的报道引起了很多关注。你发布了这个。我不知道这是否是模糊的，还是非常直接的。你发了一条推特，写道，没有墙。我看不出它会比这更模糊不清。

Sam：

这实际上是一个完全不含糊的尝试，想说，嘿，这将继续发展。事实上，希望这至少能暂时平息这个话题。是的，我一直对人们多么喜欢猜测是否存在一个壁垒感到惊讶。扩展是否会继续下去？而不是仅仅关注进步的曲线，想着或许我不应该对这样一个指数增长的事物下赌注。

无论如何，我们准备了一系列精彩的新内容。我们正在为假期策划一些有趣的活动。从明天开始，我们将开展为期12天的OpenAI活动。在这段时间里，我们每天将在12个工作日内发布内容或进行演示。这将是一个持续的过程。

主持人：如果明天开始的话，你能否给我们一些提示？现在就开始。

Sam：我不想破坏你的惊喜，等待的时间并不长。(笑）

主持人：

我对此不太擅长，我想知道。不过关于人工智能的一个主要问题是：实际需要多少数据来实现扩展，以及如何继续扩展。

这其中有多少是纯粹的处理能力问题，因此涉及资本与数据的问题。数据从何而来？合成数据的概念，数字数据，我们将基于这些数据重建新的数据。

在这一点上，实际实现扩展需要什么？当人们谈论一些限制因素时，我认为其中有一个潜在的问题：哪个部分能够达到目标。

Sam：

因此，三个关键输入是计算、数据和算法，当然还有其他输入。而且有时可以相互权衡。例如，如果你有更好的数据，你可以使用更少的计算资源。或者如果你拥有更多的计算能力，你可以利用它来创建合成数据并生成更多数据。一段时间以来，我们在计算方面获得了令人难以置信的简单收益。最近，我们在算法方面也取得了很大的进展。但是，基本上，你希望同时推动所有这些输入。在不同的时期，对某一个或另一个的回报可能会有所不同，但我更倾向于考虑这三者的结合。

主持人：但对你来说，计算能力，我想，是最重要的。如果你没有计算能力，其他一切都无所谓。

Sam：

从某种意义上说，算法进步是最重要的，最大的一个。如果你能，或许你可以将一台计算机的规模翻倍，也许随着疯狂的资本积累，你可以将一台计算机的规模增加十倍。偶尔，算法上会出现这些1000倍的增长。Transformer就是一个好的最近例子。这很稀有。但当它发生时，这是最大的收益。

主持人：

所以现在，似乎有一种对处理能力的军备竞赛。为处理能力筹款的军备竞赛，是为了建立和获取更多计算能力的竞争。你与微软有合作关系。而且你现在依赖他们。

Sam：

我觉得在这些事情上都有一场竞赛。计算能力的竞争最引人关注，最有趣、最戏剧化，涉及的数字最大，这真的很重要，我不想忽视它。但是，毫无疑问，还有大量精力投入到谁能提出最好的算法创意，谁能获得新的数据来源。所以我认为这在三个方面都有竞争。

主持人：

你们与微软之间确实有这种关系。这种关系有时被形容为一种技术兄弟情，方式非常好。我刚刚在阅读亚历克斯·希思的文章，他写道，微软和OpenAI显然正在解开关系。

Sam：

我不认为我们在解开关系。听着，我不会假装没有不一致或挑战。显然，确实存在一些。但总体而言，我认为这对两家公司都是一个巨大的积极因素，期待能够一起做更多的事情。

主持人：但从长远来看，你认为你需要拥有自己的处理能力，而不是依赖于别人吗？

Sam：

不，实际上，我认为我们需要确保获得我们想要的足够计算能力，这样我们才能依赖于这一切。可能有一些原因，我们有一些非常狂野的想法，想要构建的是高风险、高回报的东西。但我们确实不需要让OpenAI在构建计算机、大规模数据中心方面变得非常厉害。事实上，这或许是我成长过程中的一种结果，我成长为这一代的创业创始人，那个时代之前，每个人都必须自己构建硬件。你有这些机房和数据中心，这是你必须做的事情。然后突然间，AWS改变了这一切。所以我一直是这样想的。

我愿意我们的团队说，好吧，我们将不得不自己构建一些东西，或者也许垂直整合随着时间的推移变得更重要。但专注于研究和产品，做好我们擅长的事情，真的很不错。

主持人：

但我问这个问题的原因之一是，它创造了一种朋友、敌人、敌友的局面。我想象中是这样的，你有你的产品，但我实际上是昨天用它来查看几件事情的。

Sam：太好了。

主持人：

高兴听到这个。顺便说一下，我们稍后会有Sundar在这里。搜索产品真是令人着迷，你们正在做的事情真的很酷。我得说，这是我最喜欢的我们推出的产品。

Sam：

谢谢你这么说。这是我们很长时间以来推出的我最喜欢的产品。我使用它非常频繁，我对此感到非常满意。这完全改变了我使用互联网的方式。

主持人：

但我想说的是，你们之间有一种关系，微软在使用你们的产品，也就是Copilot，现在苹果也在使用你们的产品。然后你们有自己版本的本地产品，你们商业性地自己出售。在某个时刻，利益是否不再一致了呢？

我说这话是因为有一些报道，包括《纽约时报》，暗示对于你所获得的处理能力和访问量有一些挫折，以及OpenAI的员工应该使用的各种服务和产品是微软的，而他们可能并不想使用这些产品。我只是试图理解这一切。

Sam：

确实在不同的时间段内，经历了真正的计算能力紧张。我们的产品扩展得非常快，比如两年前，我们几乎没有业务。现在我们有超过3亿的每周活跃用户，用户每天向ChatGPT发送超过10亿条信息。我们有一个非常大的开发者业务，大约有130万美国开发者，全球还有更多。因此，我们需要的计算能力远远超出了我们的预测。这在商业历史上是一个不寻常的现象，能够如此迅速地扩展。

对此一直存在一些紧张局势。不过，我没有听到人们对使用微软服务感到不满。我们有一个大型平台业务，也有一个大型第一方业务，许多其他公司同时管理这两方面。而且我们有一些我们非常擅长的领域，微软也有他们非常擅长的领域。再强调一下，并不意味着没有紧张关系。但总体来说，我认为我们的激励措施是相当一致的。

主持人：

听起来有一点紧张。关于人工通用智能的部分，因为你总是说与他们的协议的一部分是，如果你真的到达了那个阶段，对吧，那么协议就可以技术上解除。听起来你可能快到了。

Sam：

我们也说过，我们的意图是将AGI视为一个里程碑。我们给自己留了一些灵活性，因为我们不知道会发生什么。但我的猜测是，我们会比世界上大多数人想的更早达到AGI，而且这将不那么重要。我们和其他人表达的许多安全问题实际上并不是在AGI时刻出现的。就像AGI可以被建立，世界大体上以相同的方式继续发展，经济运转得更快，事物增长得更快。

从我们所称之为AGI到我们所称之为超智能的过程会很漫长。而那时我们应该感到担忧。

主持人：

我记得在过去的几年里，你在华盛顿和其他地方告诉我们应该感到紧张。

Sam：首先，我认为即使在AGI的时刻，也有值得担忧的事情。我预计经济动荡会比人们想象的要花更长的时间，因为社会中有很多惯性，但接下来可能比人们想象的要激烈得多。所以最初的几年，可能变化不大，然后经济可能会发生很大变化。

我不相信没有工作的情况，我认为我们总会找到事情去做。每一次重大的技术革命都会带来大量的工作变动。但我敢打赌，我们从未见证过如此快速的变化。所以，我认为在相对较短的时间内，有一些事情值得担忧，但不是这些超级危险的事情。我认为那些东西离我们还有一段时间，系统可以做到。

主持人：你对政府或其他人能够找出如何避免这些事情有信心吗？

Sam：

我相信研究人员会找出如何避免这些事情。我认为有一组技术问题是世界上最聪明的人将会研究的。虽然我可能天性稍显乐观，但是我相信他们会解决这个问题。我们正在非常努力地工作，其他人也同样在努力。我认为我们面前还有很多工作要做，但我们拥有一项令人难以置信的科学，叫做深度学习，它能够帮助我们解决这些非常困难的问题。我相信我们会做到的。

社会问题不仅仅围绕AGI，不仅限于我们认为在几年内会出现的能够完成许多工作并创造大量经济价值的事物，而是真正的超级智能。这个系统不仅比你聪明，也不仅比我聪明，而是比我们所有人加在一起都聪明，拥有简直令人难以置信的能力。

即使我们能够在技术上确保其安全，我假设我们会找到办法，我们仍然需要对我们的政府有一定的信任。在这方面必然会有一些政策问题。全球协调的程度必然会达到我假设可以应对这种情况的水平，但看起来充满挑战。

安全问题就是这样。

主持人：

我们都读过相关的头条新闻。在过去一两年里，你一直出现在头条新闻中。很多OpenAI内部的人无论是离开、发声还是其他事情，他们表示，这些人并没有足够关注安全和信任问题。

请直接讲述，以便我们理解。当人们说没有足够关注安全时，你会想些什么？那是什么？有什么事情没有发生而应该发生？

Sam：

我会指向我们的业绩记录。我会说，我们谈到我们有这个庞大的产品在外面。这是一项非常新的技术，发展得非常迅速。它开始的时候并不知道我们如何能够很好地对齐。而现在大多数社会普遍认为这是可以接受的安全和可接受的稳健性。

安全总是一种由众多利益相关者协商的合同。可能很难确切定义ChatGPT安全意味着什么。

主持人：

我问这个的原因是当我们听到一些离开组织的人，他们公开发声，在 Twitter 上表示这些人没有关注安全。那是关于安全资源的问题吗？那是关于处理能力的问题吗？那是关于你的注意力吗？

Sam：

确实有人认为ChatGPT 不够安全，允许了一些不应该允许的事情或没有做一些应该做的事情，或者有人会针对这些部分施加压力。也有人会说，可以的，ChatGPT，也许这比我们想象中的要安全一点。但是下一个系统的计划是什么？你打算怎么处理这个？

而且，还有人会说，推出这样一个系统本身就是不安全的，因为OpenAI 加速了全球的竞赛。这让我们在安全方面的工作时间减少了。

因此，我们相信，也知道这是一种有观点的立场，迭代部署的概念真的很重要。我们必须把这些系统推向世界，社会与技术必须共同进化，你必须在风险较低时开始，你必须理解人们将如何使用这个系统，以及它所不适用的场景和适用的场景。

还有其他人说，当然，这里有一些好处，但这不值得付出的代价。

主持人：

这是一个不同的问题。也许这又回到了处理能力的问题。我本来想提到，埃隆·马斯克正在建设自己的处理能力，实际上是这些巨大的处理能力实验室来支持XAI。我之所以问你是否需要自己的处理能力，是因为似乎每个人都在获取自己的。

我们刚才在和肯谈论埃隆·马斯克。埃隆·马斯克在你的生活中有一种不寻常的关系，多年来既是创始人，也是现在起诉公司的某人。

你怎么看XAI作为竞争对手？我们显然一直在谈论谷歌。我们谈论Anthropic，在某种程度上也谈论微软，我不知道你认为亚马逊处于何处。我们今天下午将与杰夫·贝佐斯交谈。但你怎么看？他们是竞争对手。

你认为他们是你最大的竞争对手之一吗？看起来他们来势汹汹。

Sam：是的，我想他们将成为一个非常严肃的竞争者。

主持人：你预料到这一点了吗？

Sam：是的。

主持人：你真的预料到了？

他们是如何能够迅速成立一家公司？感觉上，我并不是说这跟你们做的一样，但非常接近，速度极快。

Sam：好吧，现在前沿的许多模型都非常接近。但我绝对对他们如此迅速建立数据中心表示极大的尊敬。

主持人：

你是否担心这一切因此变得商品化？虽然我不想说任何人都能做到，但这似乎让人觉得你的优势是什么？顺便问一下，你的劣势是什么？

Sam：

我认为技术本身，如果你相信深度学习就像是一种物理定律，我们发现了一项重要的新科学，那么是的，那部分将会被很多人做到。

每个人都有自己对人工智能的类比。我看到桑达尔要来这里，他谈到它，就像电一样，还有其他很多人谈论工业革命，有些人谈论文艺复兴。我喜欢的一个类比是晶体管。有一个东西，一个科学发现，几家公司首先发现了，它改变了我们的社会，并且规模化得令人难以置信。

当人们谈论规模法则时，我认为最好的类比是摩尔定律。这被世界上的许多公司采用，看看这个房间里所有使用晶体管的东西。我们并不将这些看作晶体管设备，也不认为谷歌是一家晶体管公司，即使没有它，他们也不会存在。我认为这也将是人工智能的发展趋势，会有惊人强大的模型广泛应用于各个领域。未来的人们将无法想象，他们使用的设备、产品和服务并不是真正智能。然而，他们不会都称自己为人工智能公司或产品。在某种意义上，人工智能作为一种推理引擎，其本质将会被商品化。这并没有关系，事实上，这是件好事。科学应广泛传播于整个社会。这就是为什么我们专注于构建像Chachaputi这样的东西。

主持人：

关于一个与埃隆相关的问题，你们正朝着拥有盈利组成部分的商业模式发展，而现在它是一个非营利组织。众所周知，埃隆正因这个和其他许多事情起诉你。对此你有什么感受？你们是共同创立了这个项目。

Sam：

这让我感到非常悲伤。我把埃隆视为一个超级英雄长大。我认为埃隆所做的对世界是绝对令人难以置信的。我当然还是，现在对他的感觉有所不同，但我仍然很高兴他存在。不仅仅是因为我觉得他的公司很棒，这确实如此。而是因为我觉得他在一个大多数人并没有很有雄心壮志的时候，推动了很多人，包括我在内，去思考得更加雄心勃勃。我觉得“感激”这个词用得不太对，但我还是很感谢。我对此持积极态度。

我们一起创建了OpenAI。然后在某个时候，他完全失去了对OpenAI的信心，决定走自己的路，这也没关系。但我把埃隆看作是一个建设者。关于埃隆，有一点就是他真的很在乎成为那个家伙。但我把他视为一个，如果他不是那样的人，就应该在市场和技术以及其他方面竞争，而不是诉诸法律战。

而且，无论所陈述的投诉是什么，我相信他只是一个竞争者，而我们做得很好。这令人感到遗憾。

主持人：

我得问你这个。《华尔街日报》上有一篇文章，你在其中，杰夫·贝索斯也在其中，还有其他一些与他主要竞争的人的名字。文章中有关于像你这样的人的猜测，说你们担心他的影响力，不仅是在技术领域的影响力，还有考虑到他与当选总统之间的密切关系。

Sam：

我实际上并不担心。我对此非常坚信，我可能会错，但我非常坚信，埃隆会做正确的事情。美国人如果利用政治权力去伤害竞争对手并让自己的企业受益，这将是极其不美国的。我认为人们不会容忍这种行为。我也不认为埃隆会这么做。我会说，关于他有很多不喜欢的地方，但这会深深违背我认为他非常珍视的价值观，因此我并不是很担心。

主持人：

好吧，再问一个相关的问题。然后我实际上想谈一个关于公司的技术问题。他所声称的事情之一是，他认为你们现在已经如此庞大，以至于没有竞争，并且你们试图通过阻止潜在的资金提供者，比如说XAI，或可以说其他公司，同时资助你和资助他们，来阻止竞争的发生。

Sam：

不正确。我们所说的，非常标准，我们说的是，如果你投资于我们并想投资于我们任何竞争对手，那完全没问题。我们会停止你的信息权利。你仍然可以这样做，但这是我们规模其他公司的非常标准的条款。我们将停止告诉你我们的研究路线图。每个人都觉得，这似乎是合理的。但是，再说一次，就像你想要去投资他们，就去投资吧。

主持人：

让我问你一个关于公司的不同问题。你确实是以非营利组织的身份开始的。它最初是一个研究机构。现在，我想有一种观点认为它必须转变为某种盈利导向的公司。真有必要这样吗？

Sam：

首先，我想谈谈我们为什么以非营利组织的身份开始，因为我认为这也与答案有关。当我们开始的时候，我们并不知道我们会成为一家产品公司。我们也不知道我们需要的资本金额会如此庞大。如果我们知道这些事情，我们会选择不同的结构。

这很难夸大，因为在日历上，这并不是很久以前，但很难夸大2016年的不同之处。这比我们进行导致语言模型的研究早了好几年。这比我们推出第一个产品早了四年半。这比我们推出ChatGPT早了六年半。我们知道我们想要进行一些人工智能研究，并认为人工通用智能和超级智能最终会对世界产生重要影响。我们希望以某种方式做一些有益的事情。

当时我们正在撰写论文、研究新的强化学习算法、新理论、玩电子游戏的方法以及一个机器人手的项目。并不清楚是否会有产品或收入来源，也不清楚我们是否需要一个，因为我们不确定是否需要那么多资金。

在完成 GPT-1和一些其他工作之后，我们意识到需要扩展。同时，埃隆决定停止以非营利方式资助我们，我们也找不到其他人来资助这项工作。于是我们需要找到一种方式来实现有限利润。

现在我们希望继续进行许多我们认为在非营利组织中好的事情。因此我们设立了一个有限盈利的子公司，这个模式运行了一段时间。在某种意义上，它在某种程度上仍然有效，但在其他一些方面则像是在挑战关于非营利组织控制的理论，以及下一个阶段我们所需的资本金额。所以我们一直在考虑一些变化。

目前还没有什么决定。正如你可以想象的那样，这个问题非常复杂。董事会正在努力处理这个问题。在任何情况下，非营利组织不会消失。董事会正在考虑的一件事是由非营利组织拥有大量股份的公共利益公司（PBC），然后设法利用这一财富实现非营利组织的目标。当然，也有其他想法。

主持人：

我一直对的一件事情感到好奇，那就是你从未在公司中获得股权。我觉得你比我更在意这个问题。我很惊讶。你的薪水是76,000美元，这是我查过的。我相信你，就是这样。

如果公司确实到了一个关键时刻，人们通常会期望你获得一些股权。

Sam：关于这个问题，媒体有很多报道，投资者也确实施加了一些压力。我没有获得股权，这很奇怪。

主持人：你想要股权吗？你不想要吗？

Sam：

不，我不想要。如果我可以回到过去，我会选择拿一些股权，这样就不必回答这个问题了。无论我多少次尝试向人们解释，我的工作是世界上最有趣、最酷的工作。这是我退休后度过时光的梦想方式，经过了相当不错的职业生涯。

人们可以参与艺术项目而且不需要为此付费。没有人觉得这奇怪或怎么样，但我的意思根本没有被传达出来。所以我希望我能有所收获。我想象不出我会更加努力或更轻松地工作。我认为，和投资者或其他人之间的对齐会更清晰，而且这肯定会更容易筹集资金。有很多投资者没有投资，因为我没有拿股权。

主持人：他们不会投资，因为你没有股权。

Sam：这已经提到过几次了，是的。

主持人：那么现在公司的市值是1570亿美元。如果这发生了，你认为你自己要一个什么样的数字？

Sam：再说一次，我觉得你会更考虑这个问题。

主持人：我们快没时间了，所以我必须问几个其他快速的问题。一个是，坦白说，我们应该说，这恰好……

Sam：

我可以再说一件事吗？我知道我会很快。这是我儿时的梦想工作，但不是每天、不是日常。我宁愿不总是撞墙。然而，能够参与AGI的工作，与世界上最聪明的研究人员同处一室，共同经历这个疯狂的冒险，这正是我一直以来的梦想，那是我字面上的儿时梦想。而且，抛开所有奇怪的事情，我认为这至少应该可以理解，这对我来说比任何额外的钱都更有价值。

主持人：

让我问你这个，如果我不提到这点，我会感到不安。纽约时报公司对OpenAI和微软提起了关于内容训练的诉讼。这里有很多内容创作者和其他人，他们靠内容为生。我很好奇，我知道你不能谈论这场诉讼，但对于在这个房间里那些写过书、文章、拍过电影等的人，他们的信息被用于训练，无论是在开放网络、封闭网络、YouTube还是其他地方，我们应该怎么感觉？

Sam：

我认为我们确实需要一个新的。协议、标准、程序，无论称之为何，都是为了让创作者能够获得奖励。我非常相信学习的权利或者你愿意称之为的任何东西。如果一个人工智能阅读了一些内容，比如物理教科书并学会了物理，它可以像人类一样将其用于其他事物。我认为版权法和合理使用的那些部分确实需要继续适用。

但我们开始探索其他一些事情，其他人也在探索的事情，其中我一直很感兴趣的是，我们能否想出如何进行微支付？比如，如果您以安德鲁·罗斯的风格创作一个故事，可以选择使用自己的名字、肖像和风格来获取报酬。还有许多其他的想法。

我认为关于合理使用的讨论是在错误的层面。我当然非常相信我们需要一种权利学习的方法。但我真正同意的部分是，我们需要找到新的经济模式，让创作者可以获得新的收入来源。

关于《纽约时报》，听着，我不相信在别人家做客时不礼貌。但我必须说，我认为《纽约时报》在很多方面都站在历史的错误一边。

主持人：我们可以讨论和辩论这个问题，我想，我们会在法庭上进行。

Sam：期待见到您。

主持人：

我对你的最后一个问题实际上几乎与技术无关，但也许有关系。在未来一年里，你在个人生活中有一件非常令人兴奋的事情，那就是迎接孩子的降临。对于所有已为人父母和即将成为父母的朋友们，他们在思考人工智能及其将如何影响我们的生活，甚至影响我们作为人的意义，特别是考虑到如果机器真的能做一些我们无法做到的事情时，我们该如何应对、如何看待这一切，它将对我们的尊严产生什么影响。

你觉得，当你有了孩子，并与他们交流和思考时，你会告诉他们关于我们即将进入的这个新世界什么呢？

Sam：

毫无疑问，拥有孩子的体验会让人感到更加深刻。至少在我看来，在准备迎接孩子的过程中，没有什么能让我觉得人工智能如此无关紧要。我对人工智能的兴趣曾以为很高，但期待孩子的到来让我更加兴奋。这确实让人重新审视什么才是真正重要的。

我认为这就像是对这个普遍现象的一个特定视角，即我们已经发展出令人难以置信的新技术很长时间了。每当这样的情况发生时，人们就开始进行这样的对话：这意味着什么？工业革命到来，机器取代了我们所有的工作，这意味着什么？计算机革命到来，计算机取代了一些现有工作，这意味着什么？而答案，至少在作为人类的意义上，并没有太多的变化。经济将会增长。人们所从事的工作类型会发生变化。人们对孩子的关心和爱将远远超过他们对人工智能和任何其他科技可能带来的关注。深刻的人类驱动力是如此强大，并且这种驱动力已经存在了很长时间。演化的变化是非常缓慢的，我认为在某种意义上，我的孩子将在一个截然不同的世界中成长，但在另一些意义上，这个世界仍将完全一样。

主持人：萨姆·奥特曼，非常感谢这次谈话。谢谢。

小象AI

追踪人工智能趋势，关注科技行业突破