👇关注公众号后设🌟标，掌握第一手AI新动态
本文访谈内容整理自OpenAI CEO Sam Altman接受哈佛商学院 Youtube频道专访，公开发表于2024年11月20日。原始内容参考：https://www.youtube.com/watch?v=BZbjqiRvJPA
山姆·奥特曼接受Harvard Business School专访
★内容导读：
本次专访中，奥特曼的主要观点可以概括如下：
非营利转向营利的原因： 由于AI研究的规模化需要巨额资金，非营利模式无法筹集到足够的资本，因此OpenAI不得不转变为营利性机构。这并非意味着所有AI研究都必须营利化，但对于前沿的大规模研究来说，营利模式可能是必要的。 政府在AI发展中的作用： 奥特曼认为，理想情况下，大规模AI研究应由政府主导，类似于阿波罗计划。但鉴于现实情况，目前的营利性模式也是一个可行的替代方案。政府应在设置安全准则、保障公平方面发挥关键作用，这甚至可以说是政府的责任，而非仅仅是一个“角色”。 这需要政府与企业间的紧密合作，找到合适的监管力度。 AI的未来应用及社会影响： 奥特曼对AI在加速科学发现，特别是物理学研究方面的潜力感到兴奋。他认为，这将是世界持续进步的关键。他预计AI将带来很多新的娱乐方式，但人与人之间的真实联系的价值不会因此下降。 他还预测，人类将与AI建立某种程度的情感联系，但这并不会取代人与人之间的情感纽带。 AI的公平性与监管： 奥特曼认为AI技术本身可能促进公平，但需要一些“推动”来引导其发展方向。 这种“推动”需要通过经验总结，建立紧密的反馈机制，不断发现和解决问题。他认为单纯依靠美国目前的监管速度难以有效进行引导，寄希望于企业自身的责任感。他还提出，在AI时代，单纯依靠对收入和公司利润的税收模式已不再适用，需要考虑对资本进行征税。 AI的治理与自主性： 奥特曼认为OpenAI不应，也不应该拥有自行制定规则的权力。他建议探索一种新的治理模式：AI系统可以与用户进行对话，了解用户的价值观，并在此基础上进行自我调整和决策，从而在一定程度上实现由AI用户共同治理AI。 这种模式虽然面临挑战，但凭借AI技术本身的可行性，是值得尝试的。
访谈内容
主持人Debora： 所以，我很想知道，您刚才提到了这一点，能否更详细地描述一下您为什么以及如何觉得必须从非营利结构转向营利结构？这像是灵光一闪吗？
奥特曼： 简单来说，我们需要远远超出我们预想所能筹集到的资金。并非我们预想，而是我们尝试过，却无法作为非营利组织筹集到足够的资金。我们知道扩展计算机规模至关重要，但我们仍然严重低估了我们需要扩展的规模。
主持人Debora： 这么说，任何组织都不可能以非营利模式进行有意义的人工智能研究吗？
奥特曼： 不，当然还有其他事情可以做，但要在规模化研究方面处于领先地位，我认为非营利组织可能做不到。政府呢？政府可以做任何他们想做的事情，对吧？
主持人Debora： 是的，但也不是完全这样。我们试图探讨的一点是，企业在某些方面比政府做得更好。我的意思是，您认为能源部或国防部能像你们一样做好OpenAI的工作吗？
奥特曼： 阿波罗计划非常令人印象深刻。
主持人Debora： 所以您认为这可能是另一种途径吗？
奥特曼： 我认为，从某种意义上说，在一个运作良好的社会中，这应该是一个政府项目。是的。但这似乎是一个很大的假设。但鉴于这种情况并没有发生，我认为以这种方式进行，并且作为美国项目进行，会更好。
主持人Debora： 好的。您还几次提到，政府或您所说的“社会”在设定一些安全准则或指导方向以建立公平性方面发挥着作用。
奥特曼： 不仅仅是发挥作用，也许这应该是社会应该扮演的角色。
主持人Debora： 但“社会”并非一个实体。
奥特曼： 不，这是一个涉及许多不同利益相关者的复杂谈判。但我们确实，你知道的，我们就是这样做的。我们随着时间的推移逐渐做对了。飞机非常安全。撇开波音的问题不谈，总的来说，飞机一直都非常安全。
主持人Debora： 这很大程度上是传统监管的结果。
奥特曼： 我认为这是因为人们希望乘坐飞机并知道自己不会死，而社会会对此做出回应。更具体地说，是政府的回应。飞机制造商也是如此，如果他们想继续销售人们愿意乘坐的飞机，那么政府肯定有作用。从事这项工作的科学家和工程师也感到有责任。我认为这是一个多方参与的事情。但监管肯定发挥着巨大作用。
主持人Debora： 一些学生已经问过你这个问题了，但我或许可以请你更深入地探讨一下。从社会层面或商业层面上来看，你对人工智能哪些方面最感兴趣？
奥特曼： 我个人认为，最让我兴奋的是大大提高科学发现的速度。我相信，如果你放眼全局，这就是世界变得可持续发展更好的方式。我认为多多推动这方面的发展非常棒。当然还有很多其他领域。我认为将会出现令人难以置信的AI导师、令人难以置信的AI医疗顾问。但就我个人而言，我对用于科学研究的人工智能非常兴奋。是的。科学的哪些特定领域？我想如果让我选择一个个人感兴趣的领域，我会说，你知道的，去解决所有物理学问题。但不是，我对各个领域都感到兴奋。
主持人Debora： 那么为什么是所有物理学问题？
奥特曼： 我有着强烈的个人好奇心，而且我相信，我们对物理学的了解越多，就能越能操纵宇宙。我不知道这会带来什么结果，但这似乎很重要。
主持人Debora： 那么显而易见的问题是，物理学家会怎么样？
奥特曼： 我当时有点开玩笑。如果物理学中真的没有任何问题了，那我也不知道。我怀疑我们会解答目前的问题，然后找到更多更难、更有趣的问题。
主持人Debora： 你读过约翰·梅纳德·凯恩斯的《我们孙辈的经济前景》吗？我们必须，我必须把它寄给你。好的。它很棒。凯恩斯在1930年写了这篇文章。他谈论的是100年后世界将会是什么样子。因为他，你知道，一旦你解决了所有问题，就会出现类似的一系列问题。他对此给出了一个奇怪的答案，那就是我们将只是创作艺术，而不关心金钱。你是否想过这类存在性问题？物理学家会怎么样？
奥特曼： 你知道，大家都在长时间地争论这个问题。我认为，他一部分是对的，一部分是错的。从某种意义上说，你可以回到20世纪30年代，看看今天很多人。你会说他们只是在创作艺术，他们不关心钱。他们都很好。但这并不是他们的感受。如果你能看看今天的人们，再往前走100年，问他们对未来那些人的工作的看法，他们会说，这是一个奇怪的艺术定义，但是，好吧，他们在创作艺术，他们都不在乎钱。他们拥有令人难以置信的物质财富。你会多想一下，说，好吧，他们看起来很忙碌，很焦虑，他们似乎从他们的工作中获得了极大的满足感，他们并不完全称之为艺术。而且，你知道，他们仍然觉得不够，他们想要更多，他们仍在寻找新的比较方式，彼此比较。而且，你知道，也许他们现在不是在看他们的房子是否比邻居的房子大或小，而是在看他们拥有的星系是否比邻居的好或坏。但我认为人类的驱动力只会继续下去。
主持人Debora： 人性似乎不会改变。我在我那些古怪的书里写到的一种预测是，我们将爱上机器人，这是一种我实际上认为是真实的夸大说法，那就是我们将接受人工智能实体作为情感伴侣。你的看法是什么？我的意思是，你是否喜欢那种奇点类型的愿景，即存在一种融合，我们开始与被创造而非被孕育的事物建立情感联系？
奥特曼： 是的，我怀疑未来的娱乐形式将会大不相同。也许是这样的。你知道，也许现在很多看电视或玩视频游戏的时间会被与人工智能的互动体验所取代。我们可能确实从中获得某种陪伴感。但对我们大多数人来说，我认为对真实、真诚的人类互动关系的重视程度会上升，而不是下降。所以我肯定我们会经常与人工智能交流，我相信那将是一个极其精彩的时代。但我敢打赌，人性中存在一些深层的东西，仅仅知道那是另一个人还是人工智能，这真的很重要。
主持人Debora： 好的。我想回到你在之前的演讲中提出的另一个问题。一个孩子问了关于公平的问题，你给出了一个很好的答案，我同意你的观点，这项技术可能会推动公平，但这需要一些推动。你指的是什么样的推动？
奥特曼： 首先，我认为它可能根本不需要任何推动。有时技术不需要。我还认为，在学术上了解正确的推动方式是很难的。你必须通过经验来做。就像我相信我现在所有的想法都是完全错误的。我认为一个紧密的反馈循环，观察问题出现在哪里，解决这些问题，发现新的问题。这就是我认为我们将如何进行推动的方式。
主持人Debora： 虽然这很难，对吧？我的意思是，我刚从丹麦回来。你可以在像丹麦这样的小国看到这样做，他们拥有非常好的数据。例如美国，等等，你知道，美国需要30年才能通过任何类型的法规。那么你如何看待这种推动？
奥特曼： 我的意思是，我希望公司会这样做。如果你依赖美国的法规，那将是……
主持人Debora： 但是你，我实际上在昨晚，或者说是前天晚上讲授了你的文章，“摩尔定律适用于一切”。
奥特曼： 我有一段时间没读那本书了。
主持人Debora： 它还经得起推敲吗？我觉得它很有趣，非常有趣。因为你谈到的是税收体系的变革，这并非特别牵强附会。我的意思是，这些改革是可行的。基本上，你谈论的是土地税——我的意思是，我喜欢这个想法。是的。
奥特曼： 哦，我仍然认为那是对的，当然。我只是记不清所有细节了。不，我认为在人工智能时代，主要依靠对收入和公司利润征税是不太合适的。我们似乎确实需要转向某种对资本的征税。
主持人Debora： 我认为这是一个非常有趣的想法，但它没有得到足够的关注，因为它与普遍基本收入（UBI）不同。我的意思是，它在某些方面与UBI相关联，但它有所不同。如果你只有一个愿望可以实现关于人工智能的，那会是什么？爱人类。你能把它融入进去吗？你怎么尝试呢？
奥特曼： 一个令人惊讶地奏效的方法是，能够使人工智能系统以特定方式行事。因此，如果我们能够在许多不同案例中阐明这意味着什么，那么是的，我认为我们可以让系统以这种方式运作。
主持人Debora： 你认为OpenAI能否也应该拥有制定自身规则的权力？比如，我们为什么应该相信你们？
奥特曼： 你们应该相信。我不认为你们应该相信。我不认为我们这样做。我不认为我们会这样做。我不认为我们应该这样做。我认为一个很有趣的方向性想法是，你可以想象这样一个系统与所有用户聊天，说，“向我解释你的价值观体系，然后我将进行集体比对。”我相信，技术的用户，受技术影响最大的人，应该在技术的治理中拥有很大的发言权。所以你可以做一些这样的事情。
主持人Debora： 我的意思是，这可行吗？尤其是在巨额资金的背景下。
奥特曼： 完全可行。再说一次，我认为这是这项技术所带来的真正的新事物，以前是不可能的。
主持人Debora： 那么这是否与Anthropic公司正在努力的方向相似？
奥特曼： 我不知道他们在做什么。我不确定。
主持人Debora： 不，因为他们有这种想法，这看起来有点天真，你知道，我们将把我们的设计原则公开，以进行众包。
奥特曼： 我的意思是，我认为这样说很好，这就是我们如何权衡系统会做什么和不会做什么。但我更想表达的是，我对这样一个思想实验很感兴趣：人工智能与你聊几个小时关于你的价值观体系，然后也与我和其他人进行这样的对话，然后说，好吧，我无法一直让每个人都满意。
主持人Debora： 所以它基本上是利用人工智能来达成共识。
奥特曼： 嗯，利用人工智能与每个人交谈，在深层次上理解数十亿人的共识，这在没有人工智能的情况下可能是做不到的。
主持人Debora： 太棒了。谢谢。非常感谢。
参考资料: https://www.youtube.com/watch?v=BZbjqiRvJPA，公开发表于2024-11-20
👇关注公众号后设🌟标，掌握第一手AI新动态
