（关注公众号并设为🌟标，获取最新人工智能资讯和产品）
全文10,000 字，阅读约需15分钟
——无论你什么专业或者背景，在AI领域追求卓越，最有效的方法不是预先积累技能清单，而是立即投身其中，在实践中学习、成长，让经验成为你最好的老师，因为真正的专业知识源于持续不断的实际操作和反馈循环
——人类进步的伟大篇章，是由一代代创新者用今天的工具雕琢明天的奇迹，不断推动文明的边界
——强化学习为语言模型开辟了新的可能性。通过与人类反馈相结合,它有潜力大幅提升AI系统的能力和可用性。
2024年9月，OpenAI发布了其最新模型o1。在同一天，公司首席执行官Sam Altman现身密歇根大学，与师生们分享了他对人工智能未来的洞见。这场引人注目的讲座视频近日才被公开，引发了广泛关注。讲座内容不仅探讨了AI技术的快速进步带来的挑战和机遇，还涵盖了一系列引人深思的话题，为公众提供了难得的机会深入了解AI领域领袖的前瞻性思考
在谈话中展现了他对AI发展趋势的敏锐洞察。当被问及首个由AI生成的诺贝尔奖可能出现在哪个领域时，他成功预测了物理学，显示出对科技与学术交叉领域的深刻理解。关于OpenAI的新型推理模型Strawberry，他描述这一模型能够执行复杂的推理和问题解决任务，代表了AI应用的新范式但它仍有待进一步完善。
关于备受关注的人工通用智能（AGI）话题，Altman提出了新的思考角度。他认为AGI这一术语已失去明确含义，转而提倡使用"等级框架"来讨论AI进展，以期在业界形成更好的共识。回顾AI领域从2016年至今的发展历程，他指出了一个有趣的现象：直到2022年底ChatGPT问世之前，公众对AI的关注度一直相对较低。这一观察凸显了技术发展与公众认知之间的落差，也印证了他一直以来的观点——公众对新技术的接受往往处于滞后状态。
Altman一直强调，我们正身处AI发展的指数增长曲线上，未来每一年都可能带来令人惊叹的突破。这一论断不仅体现了他对AI未来的乐观预期，也为我们描绘了一幅科技快速演进的图景。
一、对话部分
Karen Thole： 下午好，我是工程学院院长 Karen Thole。欢迎参加与 OpenAI 首席执行官 Sam Altman 的炉边对话。但今天的活动将由大学的高级投资管理主任 Dan Feder 和 OpenAI 的 Sam Altman 共同讨论一系列与你们提出的问题相关的内容。
主持人Dan Feder： 大家好。（掌声）欢迎来到安娜堡（Ann Arbor）。
嘉宾Sam Altman： 谢谢你们的邀请。
1、通往AGI智能的过程
Dan Feder： 对于那些不太了解或还没读到相关内容的人来说，简单简绍一下“Strawberry”模型
Sam Altman：我们发布了“Strawberry”。过去两年我们发布了我们称为“Strawberry”的 o1。当我们完成 GPT-4 时，我们最兴奋的一件事是：我们能不能教它？我们能不能利用我们创造的这个东西，在它的基础上教模型推理？我们认为，如果我们能做到这一点，那将是一个非常重大的进步。从某种意义上说，这就是下一个最重要、最显而易见的缺失环节。所以我们开始致力于这个目标。OpenAI 的许多不同团队以不同的方式在研究这个想法。我们尝试了一些方法，有些奏效了，大部分没有成功。但我们投入了更多的精力在那些有效的方法上。今天我们发布的模型……我认为这是第一个模型，我可以称之为……虽然还很早期，但它是第一个真正的通用复杂推理模型。我们有一个理念，即 AI 有五个发展阶段，我们计划逐步实现。我们过去几年处于第一个阶段，基于聊天的模型。而第二个阶段则是推理。我认为这是我们第一次达到了这一阶段。从这里开始，它会迅速提升，但即便是目前的模型也已经相当不错了。
Dan Feder： 那么，这是否让我们走上了通用智能或超人智能的道路？它让我们处于什么位置？
Sam Altman： 我认为我们确实走在那条路上。我们已经在那条路上走了很长一段时间了。这是那个道路上的下一个步骤。但我认为这是一条漫长的指数曲线，而我们非常幸运，能够生活在并见证这一切。这是一个令人兴奋的时刻。
Dan Feder： 我很好奇的是，当 GPT-2 发布时，它迅速火了起来。我想这可能让你们有点意外吧？
Sam Altman： 你知道，在你发布某个东西之前，你永远不知道它什么时候会火，为什么它会火。GPT-3.5 的 ChatGPT 发布时火了，但为什么不是 GPT-3 或 GPT-4 ？这很难预测。我们知道它迟早会火，但它实际发生的时间让我们有点措手不及。
Dan Feder： 所以，我试图把一些线索串联起来，看看这次发布的情况会如何发展。你觉得这很重要，或者说你相信它很重要。但回想起来，我听到很多人说：“你怎么能不知道 GPT-2 很重要？它简直是魔法。”是不是当你专注于某些指标和开发工作时，反而让你无法看到它的实际影响？
Sam Altman： 嗯，我认为当我们发布 GPT-3 时，科技社区对此有反应，但大多数其他领域的人并不在意。而我对此有点困惑，因为我觉得它应该受到更多关注。到我们在 2022 年 11 月 30 日发布 GPT-3.5 的 ChatGPT 时，我们已经在 2022 年 8 月 2 日完成了 GPT-4 的训练，并已经在内部使用了几个月。所以我们已经习惯了 GPT-4，我们都认为它非常棒。而 GPT-3.5 对我们来说就像是“过时的新闻”了。因此，我认为我们低估了它相对于 GPT-3 对外界的更新程度，这可能就是为什么我们感到意外。但再次强调，这很难预测什么时候会火起来。你也可以说，为什么 GPT-3 没有引起更多人的兴奋？
Dan Feder： 是的，然后回到“Strawberry”，你觉得这个模型能够实现哪些特别重要的或引人注目的事情？
Sam Altman： 你们当中有谁参加过 AIME 数学竞赛吗？它在这次竞赛中得了 93% 的成绩。我们今年为了好玩参加了一次，我自高中以来就没有再参加过这个竞赛了。这确实很难。我开始做这个测试，也没拿到 93 分。所以，我认为你可以通过这样的指标来衡量。对于编程，这将为人们带来巨大的帮助，特别是在编写软件方面，我认为这会让人惊叹。我觉得很多不同领域的研究人员都可以利用它来增强他们的研究。而且，像往常一样，人们会发现一些我们从未想过的新用法。
2、最先进AI技术
Dan Feder： 那么，今天之前的最先进技术和现在相比有什么区别？
Sam Altman： 区别很大。你看，我们给这个模型编号，因为这是一个非常早期的东西。我们曾经想过，“它不太合适，但也许我们可以称它为 GPT-5 或别的什么。”但这其实是一个新范式。这是一种使用模型的新方式，它擅长不同的事情。它在解决难题上需要很长时间，这有点烦人，但我们会改进它。不过它可以做一些 GPT 系列模型无法做到的事情。当然，它在很多事情上也有困难，因此还需要一些时间来适应。但是，就在我们站在后台的时候，我看了一下人们在线上的反馈，看到那些每天没有盯着它看的人用全新的视角发现它，并感叹道：“哇，这个东西写出了如此复杂的代码，或者帮助我解决了我一直卡住的问题。”所以，我认为在接下来的几周内，我们会看到人们如何适应并开始使用它。但我认为这些模型在某些方面已经令人印象深刻，以至于我们忽略了它们在推理方面的糟糕表现，而现在它们在这一点上发生了真正的变化。
Dan Feder： 是的，我正想提这个问题。我们现在看到的一些技术，比如递归自我改进或开放性、具有代理性的 AI，有些途径可能会走向类似的输出，你怎么看它们的相互作用？
Sam Altman： 我认为这确实开始使代理成为可能。我觉得阻碍代理发展的其中一个问题就是系统没有足够的推理能力，或者没有足够的稳健性，无法在长时间的任务中提供足够的信心或严谨性。我认为我们离自我改进的循环还很远，当我们更接近那一步时，我们需要非常小心。但我确实认为代理的愿景现在已经变得可以实现了，虽然不会是下个月的事情，但已经在我们掌握之中。
Dan Feder： 是的。那么，这对强化学习和人类输入（RHLF）意味着什么？这一直是一个重要的工具。
Sam Altman： 是的，o1 其实完全与强化学习有关。这是这里的秘密。我们过去也做过一些较小规模的类似项目，RLHF（人类反馈强化学习）就是一个很好的例子。但这是我们梦寐以求的强化学习语言模型的实现，它真的奏效了。
Dan Feder： 好吧。也许我们可以稍微回顾一下。AGI（通用人工智能）意味着什么？它对你来说意味着什么？
Sam Altman： 你知道，AGI 是未来两年或者五年内要实现的东西，或者其他即将到来的事物。我觉得这个词现在基本上失去了意义，因为人们对它有着各种各样的理解。有些人把 GPT-4 称为 AGI，而我认为它绝对不是。还有些人谈论一些模糊的东西，他们不确定那是什么，但他们认为它会在几年后出现，而且总是说同样的时间框架。还有一些人认为它是那种真正可以递归自我改进的超级智能。我倒是希望能够废除这个词，因为它的含义已经被赋予了太多不同的东西。我们喜欢这种“等级框架”的原因之一是，至少可以让大家对里程碑达成一些共识，并以更严谨的方式讨论问题。我觉得如果你回到过去，甚至不需要很远，只要回到五年前，向某人展示 o1，他们一定会感到震惊。他们大多数人会说：“不可能，2024 年的 AI 绝对做不到这些事情。”而我认为如果你再快进五年，展示 2029 年的成果，大多数人也会说：“绝对不可能，这发展速度太快了。”我觉得关键并不是 AGI 的定义或讨论它何时会来，而是我们正处于一个指数增长的曲线上，从 2019 年到未来很长一段时间，每一年都会显得进步惊人。
Dan Feder： 好吧，我不会称它为 AGI。
Sam Altman： 你可以随便叫它什么。
Dan Feder： 在你刚才的描述中，你提到这是一种朝向某种功能性的重要过程，比如推理能力、执行步骤等。那么，是否还有可能会发生某种“事件”？我一直在思考并困惑的是抽象的概念。LLM（大语言模型）是基于语言的，而语言本身是对现实世界的抽象。而关于 AGI（通用人工智能），我认为可以……如果你能够在不依赖抽象的情况下实现这种“魔法”，而是让它直接处理抽象本身，那是否会出现某种“事件”？你认为可能会发生这样的事情吗？
Sam Altman： 我认为会有一些类似里程碑的事件出现，但我感觉它会是……我指的是那种非指数性的连续变化，我认为它会让人感到是连续的。这很难说，因为当系统能够比 OpenAI 的所有研究人员做得更好时，这应该会是某种不连续的变化。但你知道，像对数尺度或指数尺度的事情，总是有点奇怪。
Dan Feder： 是的。在这条路上，你认为第一个由 AI 生成的诺贝尔奖会在哪个领域获得？
Sam Altman： 好问题。我没有特别强的看法，但我会猜测可能是物理学领域的发现，不过我不是特别有信心。
3、保持乐观主义
Dan Feder： 我们可以帮助实现它。这也许是一个很好的转折点，可以回到更广泛的问题。我很想听听你对技术发展、它们在社会中的作用以及它们的意义的看法。对你来说，乐观主义意味着什么？
Sam Altman： 我不明白我们现在怎么能不感到乐观。我认为我们正处在人类历史上最激动人心的技术革命时刻。人类在不久的未来会实现的，甚至今天已经能够实现的事情，简直令人难以置信。我觉得今天的世界和昨天相比，已经非常不同了。人们将会创造一些让我们惊叹的东西。你们所有人将会创造出让我们惊叹的东西。人类历史的故事就是我们构建了更好的工具，然后人们用这些工具做出更加惊人的成就，并且他们自己也会用这些工具构建新的基础架构。我们正处于这条不断上升的可能性曲线上。这些平台的变革偶尔会发生一次，就像标点符号一样，但这次将是一个巨大的标点符号。现在这个领域的开放性意味着我们可以为彼此创造出更多更好的东西。教育、医疗、科学等等都将以惊人的方式快速加速发展。我不知道现在还怎么能对未来感到悲观。这感觉就像是一个充满无限可能性的时代。最近一段时间，尤其是在科技行业，这种感觉已经消失了一阵子，以前有一段时间大家都觉得停滞不前。而我认为这次的变革可以比肩电力的发现或晶体管的发明。
Dan Feder： 在为今天的活动做准备时，我回看了一些你过去的采访视频。你去年和 Stripe 的联合创始人 Patrick Collison 做了一次访谈。你当时表达了对现在没有出现更多伟大的、有影响力的 20 岁创始人感到的沮丧。你认为这次的变革会让我们看到这些 20 多岁的“超级创始人”吗？
Sam Altman： 我认为会的。我觉得年轻人在行业或科技行业发生这种“板块移动”时往往拥有相对优势。特别是看着这些年轻人，现在让我感觉有点奇怪，因为有些人似乎比我更擅长使用 ChatGPT，尽管我应该对它很熟悉才对。但是当我来到大学访问时，那些 20 岁的学生显然比我更会用 ChatGPT。我觉得这将成为一个巨大的优势。现在应该是 20 岁的创始人“复仇”的时候了，过去十年他们失去了很多机会。
Dan Feder： 复仇（笑）？我不知道他们在寻求复仇。
Sam Altman： 嗯，我觉得这是个有趣的说法。我 20 岁时也是个创始人，我非常感激那段经历，那段时光非常有趣。但我觉得在这段时间里，科技行业有点固化了，而现在我认为钟摆会再次摆回来。
4、Y Combinator孵化器
Dan Feder： 继续聊聊关于人们和那些鼓励或促进他们去做极具雄心的项目，这个过程是如何运作的呢？你曾领导 Y Combinator，这是一家全球顶尖的孵化器，不仅仅是孵化器，而是协助创建伟大公司的机构。但这些真正伟大的创意和变革性技术并不会按时出现。你是如何看待该做什么，无论是在大学、公司，还是在风投领域……比如是否要储备人才，提前授予年轻人终身教职，或者其他方式，让这些杰出的人才有机会去做这些不受时间表约束的伟大事情呢？
Sam Altman： 首先，我认为人们应该做他们想做的事。如果你喜欢在一个周末就能完成的项目，并且它让你感到快乐和满足，那就很好，这是没问题的。但如果你想做一个真正长期的项目，我认为你至少应该有这样的机会。而且这一直是非常难做到的，尤其是在过去的十年，硅谷的环境让这种事情变得更加困难。我认为现在终于在发生改变了。我的建议是，做一件难事比做一件简单事更容易——无论是创业、研究项目，还是其他方面。关键是，如果你要做一件需要很长时间的事情，你能否召集足够多的有才华的人，激发他们的热情，并让他们全身心地投入到这个方向的工作中。如果你想创造 AGI，那就是一个令人兴奋的任务；如果你想实现核聚变，那也是一个令人兴奋的任务；但如果你只是想做第 2000 个相同的想法，那就不太令人兴奋了。所以我觉得尽管追求雄心勃勃的目标需要的“激活能量”可能会稍微高一点，但无论如何，创业都会非常艰难且痛苦。你不妨选择一个能够让人们长时间愿意投入其中的目标，这样至少会有一定的“顺风”助力。
Dan Feder： 但这也可能会很孤独，对吧？因为你说过，最值得做的事情通常是那些看起来是个坏主意的好主意。
Sam Altman： 你必须要……
Dan Feder： 在其他人眼里是坏主意。
Sam Altman： 对。你必须要…… 其实不算孤独，至少对我们来说不是那种传统意义上的孤独，因为 OpenAI 的每个人都参与其中。从 2016 年到 2020 年，基本上除了 OpenAI 的员工外，没有其他人关心这些事情。我们偶尔发布一些小的研究项目，但并不是很大的事情。从 2020 年到 2022 年底，科技行业里有些人开始关心，但人数也不多。然后到了 2022 年底，我们发布了 ChatGPT，突然之间每个人都关心了。但在最初的四年里，没有人关心的时候，我们反而觉得自己才是清醒的人，外面的世界都疯了。我们非常有信心，相信我们知道了一些非常重要的事情，而其他人没理解或者不在乎，这对我们来说有些奇怪，但我们并没有感到孤独。事实上，这让我们感到兴奋，因为我们觉得自己是在进行一场发现的旅程。我还记得我当时觉得很奇怪，为什么其他人不理解这个事情，但完全没有因此感到困扰。我想我们都会说：“我们显然是对的。”
Dan Feder： 是的。接下来这个话题我不想花太多时间，因为你说过，关于安全性的问题，太多人在网上讨论它，但真正投入实际工作的却不多。我想起了埃尔维斯·普雷斯利 1968 年的一句歌词，虽然我并不记得那首歌刚出来时的情景，但歌词是“少说点话，多做点事”。不过在不涉及哲学层面的安全性讨论的情况下，我想谈谈你们在 OpenAI 所做的工作以及其他项目，这是与监管或政府机构相关的。我记得你曾说过，资源组织可能做得太少，私人企业可能做得太多，政府则可能一会儿做得太少，一会儿又做得太多。但它们总是并行存在的。你是如何理解和处理这一问题的？
Sam Altman： 我认为我们在安全技术方面做得非常好，虽然还有很多工作在前面，而且安全性的形态也在不断演变。你知道，随着我们开始考虑在有 AI 代理的世界中如何实现安全性，问题变得更加复杂。比如，让你的自主代理在网上四处点击，拥有你所有的密码和权限，如何才能让你信任这样的系统？安全问题现在已经与技术开发密不可分了，而且它也将成为我们如何部署这些系统的一个限制因素。虽然这不完全是传统意义上 AI 安全性研究人员所说的那种问题，但这更像是一种安全系统工程。我对目前这个领域的发展方向感到非常满意，比我能想象的中等情况要好得多。但随着这些系统变得越来越强大，安全问题也会变得更加复杂和微妙。
5、监管的的方式
Dan Feder： 是的，"监管"这个词经常被提到，但我不确定，是否监管是正确的方式？还是应该是治理？
Sam Altman： 我认为监管是良好政策的一部分，而我们需要的是好的政策，一个行业要做合理的事情，监管者要做合理的事情，使用这些系统的人也要以合理的方式使用它们。显然我们需要监管，但我们也需要很多其他的东西。
Dan Feder： 但是，信任是一个巨大的问题，除非首先建立信任，否则很难做任何事情，无论是你个人、OpenAI，还是其他方面……你如何看待在规模扩大的过程中建立信任？
Sam Altman： 有一件事让我们感到非常高兴，那就是用户……尽管 AI 现在比过去少了很多问题，但仍然存在明显的幻觉和一般性的错误问题。我们最初发布模型时，我们担心：“嗯，这很危险，它有时会说一些非常离谱的东西，用户要么完全不信任它，要么过度信任它，而这又会带来一系列问题。”但令人惊喜的是，用户对这项技术的感觉掌握得非常快，理解了它的局限性，知道什么时候使用，什么时候不使用，什么时候需要验证，什么时候可以几乎盲目地信任它。我认为这再次证明了人类非常擅长学习如何使用工具。
Dan Feder： 我想回到一些与你提到的信任有关的问题，因为这涉及到机器内部的运作，涉及黑箱。这些技术进步，无论是“Strawberry”还是 o1，或者未来的 o2 或 o3，它们都在走向更少数据的更多应用。而我觉得现在缺失的一点是，有一些低上下文的语言。比如我的家人来自匈牙利，匈牙利语的内容并不多。库尔德语也是如此，它们并没有被很好地融入到这些语言模型中。而且还有数百年的文学作品并未被纳入这些模型。这重要吗？不重要吗？你们是怎么处理这个问题的？
Sam Altman： 我们希望能把这些内容全部纳入进来。我们与很多人建立了合作伙伴关系，帮助我们将那些低资源语言或尚未数字化的数据融入到这些模型中。我们对此非常热情，并愿意纳入尽可能多的内容，只要人们希望它们被纳入。
Dan Feder： 这是否也与解释性有关，特别是与安全性有关，还是它与此无关？
Sam Altman： 我认为这与解释性无关，但解释性也对我们非常重要。我认为“Strawberry”范式以及我们能够查看的这些思维链是解释性工作的一个新且令人兴奋的方向。
Dan Feder： 我还有四个问题。你已经回答了我快速问答环节的一个问题。第一个问题是关于阿玛拉定律(Amara’s Law)。我们倾向于高估技术在短期内的影响，但低估其长期影响。你觉得我们现在低估了哪些长期影响？
Sam Altman： 我们低估了这一切将无处不在、融入一切之中。你们这一代将是最后一代，没有成长在所有产品和服务都非常智能化的环境中。这些产品和服务在某种认知能力上会比你们更聪明，而这将如何改变我们使用计算机的方式、我们与周围世界的互动方式？它将逐渐渗透到一切中，变得对我们所做的一切都非常有帮助。我觉得我们还没有完全意识到这一点。
二、学生提问环节
学生Maria Cecilia： 谢谢。首先，非常感谢你来到这里，我想问你一个问题，因为我在听一个关于全球能源现状的播客时听到一些相关内容。给大家一些背景吧，美国现在的能源生产大约是 1 太瓦，成本大约是每千瓦时 17 到 25 美分。而到了 2050 年，我们需要将能源生产增加到 2 太瓦，可能价格会相似。我想中国已经超过了我们，法国以及许多其他国家的能源生产效率也更高。所以我想听听你对这将如何影响企业的看法，无论是从单位经济角度还是从更广泛的安全角度。你认为这其中有多少能源差异可以通过硬件改进来弥补，多少可以通过优化硬件的软件来实现？
Sam Altman： 我认为能源是未来的两个基本商品之一，另一个是智能。我们应该拥有比现在多得多的能源，并尽可能降低其价格。我认为核聚变会奏效，它将成为地球上最便宜的能源。如果它不奏效，我仍然认为太阳能加储能可以变得非常便宜，我们可以拥有大量这样的能源。我觉得如果我们国家不大力投资廉价、清洁、安全、可靠的能源，那将是非常危险的。如果你研究能源的历史，你会发现能源成本的下降与生活质量的巨大改善是密切相关的。而我们在这方面的进展并没有我希望的那么多。我认为，尤其是在 AI 的世界中，为了运行 AI 本身，以及实现它带来的所有新功能，我们需要大量的能源。我认为如果美国承诺制定一个战略，成为世界上在智能和能源方面都处于领先地位的国家，那将是件非常好的事情。我认为未来十年在这方面可以发生的事情相当令人惊讶。政府可以在这个领域发挥巨大的领导作用。还有很多事情需要完成，比如电网非常糟糕，美国的许可流程也非常复杂。正如你提到的，其他地方可以更快地建造能源设施，但我们也应该加大投入。
学生Eric： 你好，我叫 Eric，来自信息学院。我是一名研究医疗和人工智能的博士生。我的问题是，作为 OpenAI 的首席执行官，你遇到的最具挑战性的时刻是什么？你是如何应对的？
Sam Altman： 我可能不会给出你预期的答案。最具挑战性的时刻……并不是某个具体的时间点，而是在我们不知道下一步该做什么的时候。这是在我们还没有发布任何产品的时候，我们在做研究，但不太清楚该研究什么。我们试图随机选择一些事情，就像在森林中迷路一样。这个时期非常早期，人们会因为很小的事情而失去动力，甚至争吵。当时感觉就是：“我们在这里干什么？也许我们太过乐观了。”危机是可以应对的，很多这样的时刻都会发生。有时候让我感到惊讶的是，当我结束一天回到家时，居然有那么多事情在一天内出了问题。但当一切都不顺利、没有任何动力、也没有明确方向时，人们会感到迷失和失去动力，这在一开始非常具有挑战性。不过后来，虽然还算早期，但不是最初的几年，我们知道该怎么做了，情况也变得好多了。但这确实是一个出乎意料的困难。
学生Ashutosh： 晚上好，我叫 Ashutosh，来自信息学院。我的问题是，在未来二十年内，人工智能对教育系统将产生什么影响，特别是在个性化学习和教育机会获取方面？
Sam Altman： 这是我最兴奋的几个领域之一。我可以说，我最兴奋的事情是 AI 将对科学进步产生的影响。但紧随其后的是 AI 对教育的影响。我们经常听到来自学生和老师的故事，他们使用 AI 完全改变了他们的学习方式。随着模型的改进，以及人们在其基础上构建的服务越来越多，我认为它已经在改变人们的学习方式，以及人们如何获取和使用信息。我的希望是，任何现在开始上学的孩子，都能获得比今天毕业的学生更好的教育。我真的认为这是一个如此巨大的变革，看到人们已经在用它做的事情令人惊叹。
学生Matt： 你好，Sam，我叫 Matt，是工程学院的计算机科学学生。我想知道，OpenAI 自从产品大受欢迎以来，采用了哪些风险管理技术？
Sam Altman： 其中一个很重要的部分是我们变得非常擅长监控。我们在发布前进行了各种测试，包括红队测试和安全系统的构建。但我们有很多人在全球范围内使用产品，应用场景广泛。因此，构建一个出色的监控系统是我在发布时低估的需求，但我们现在已经大大改进了这一点，这对我们非常有帮助。所以，严格的发布前测试和持续的仔细监控是关键。OpenAI 有点特别的是，我们在一年内不得不建成一整个公司——一个大公司。你知道，在 ChatGPT 发布的前一天，我们还是一个小小的研究实验室。而一年后，我们已经成为一个大型科技公司。这是一个非常痛苦的经历，但你会学到，在多快的时间内建立起新功能是可能的，这是一个鼓舞人心的经历。
学生Achuth： 你好，我叫 Achuth，是计算机视觉方向的硕士生。我今天的问题是，你们如何应对 AI 在关键场景（如医疗或法律场景）中的幻觉问题？你们是否在大语言模型的某个阶段特别专注于研究这个问题？
Sam Altman： 首先，我要指出，过去几年来这个问题已经得到了极大改善。你知道，2022 年在日历上不算很久，但在 AI 进展的时间线上，它已经是很久之前的事了。回到 2022 年，GPT-3 是世界上最好的模型，但它很糟糕，非常昂贵，非常慢，还经常出现幻觉问题。如今，随着 o1 的发布，幻觉问题仍然存在，但它已经不是阻碍人们在大多数用例中从中获得巨大价值的主要问题了。当然，在某些领域，你依然不能过度依赖 AI，因为幻觉问题依然存在，但这个问题会持续改进。此外，正如我们之前提到的，人们对工具的使用非常有判断力，他们能够理解工具的局限性，知道什么时候使用、什么时候不使用。所以，在未来的几个月和几年里，我们肯定会在这方面做很多改进。但我认为，现在这已经不是我们听到的主要问题之一了。
学生Catherine： 你好，Sam，我叫 Catherine Ling，是罗斯商学院的 MBA 学生。我的问题是，作为一名 MBA 学生，希望成为 AI 领域的产品经理，我应该专注于发展哪些关键技能或经验，以有效地连接先进的 AI 技术与市场需求？谢谢。
Sam Altman： 我认为，对于任何类似的问题，答案都是直接去做。我坚信，如果你想在某件事上变得出色，你就是通过做那件事来提升自己的。我觉得这是一个被低估的人生建议。如果你想做某件事，你会去培养 A、B 和 C 技能，以为这些技能可以应用于以后做的事。但实际上，你应该尽早开始做那件事并在过程中学习。我对这个问题的建议也是如此。
学生Julia： 你好，很高兴见到你。我叫 Julia Kassab，是密歇根大学信息学院的四年级学生。今天我的问题是，你认为当前学习计算机和信息科学的学生是否应该对他们所进入的职业感到不安？因为他们努力获得的技能可能在未来变得过时。
Sam Altman： 有点吧，但其实也不完全是。（众人笑）如果你认为五年后的程序员工作，从每分钟的具体工作内容来看，会与今天的程序员做的事情相似，那么显然你会遇到困难。但如果你认为世界将继续对软件有几乎无限的需求，而其中一个非常重要的角色是要弄清楚软件应该是什么，以及如何使用比我们今天使用的更高级的编程方法，那么我认为这种工作需求会非常大。不过它会变得非常不同。我记得听说过这样一些故事，当更高级的编程语言出现时，当时的老程序员们会说：“哦，工作都没了，这东西太简单了，每个人都会做。”但事实并非如此。这次也不会完全是这样的，程序员的能力和预期将会极大不同，写代码的工作性质也会变得与今天截然不同。
我想说的是，那些有价值的技能——令人惊讶的是，这些技能是可以学习的——是那些与“适应力、抗压能力和快速学习”相关的技能。如果你能做到这些——而且我认为年轻人在这方面有天然的优势——你就会处于一个很好的位置。如果不能，那么这条路会有点坎坷。不过，我认为通过实践可以提升这些能力。
学生Amy： 你好，我叫 Amy，是工程学院的计算机科学学生。我想问，既然 OpenAI 的模型已经在互联网上和其他来源的数据上进行了大量训练，当所有可能的数据源都被耗尽时，你们打算如何获取训练数据？
Sam Altman： 人类通过相对少量的训练数据学到了大量的知识，所以我毫不怀疑我们会找到更高效的数据获取方法。我过去常常为此担心，但现在我不再担心了。我认为我们很快就能跨越“数据事件视界”，这不会成为问题。
学生Jack： 你好，我叫 Jack May，是密歇根大学罗斯商学院的 MBA 学生。我想问，在人工智能方面，哪些伦理或监管问题是你个人最担忧的？而哪些问题是媒体或公众误解的？
Sam Altman： 我最担心的问题是，我相信社会可以适应几乎任何程度的变化，只要有足够的时间。但如果我们和其他人继续推出这些工具，照我们预期的发展，社会将需要以更具挑战性的速度适应变化。而这些快速变化的伦理影响是我最担心的，如何应对这一点还不太清楚。我认为有一些可以做的事情，但能否得到社会的支持并且真正有帮助，这就很难说了。所以，如果我们快速重写了社会的许多方面，我们可以做些什么，或者不应该做些什么，来帮助人们适应并在这样的变化中蓬勃发展呢？至于媒体过度关注的事情，我认为 AI 的媒体报道相当糟糕。我希望新闻中不要再看到终结者机器人了。还有很多其他问题。谢谢大家！
原视频链接：https://www.youtube.com/watch?v=unKXfaxVRCk&t=246s&ab_channel=MichiganEngineering
喜欢这篇文章吗?别忘了点赞、收藏、转发支持一下!期待在评论区听到你的看法!
往期回顾
1、[在卡内基梅隆大学，谷歌CEO Sundar Pichai演讲AI正创造一个全新生态系统, 为个人提供更多成功机会]
2、[沃顿商学院AI研讨会：AI对全球经济格局、企业战略和就业市场的多维度影响]
3、[在OpenAI开发者大会，CEO Sam Altman谈AGI时间表，同时展望AGI时代我们的生活变化]
我们旨在将 AI 技术与创新想法完美融合!
想要掌握人工智能，但不知从何开始？告诉我们你的需求，学习AI让你抓住这波浪潮
告别昂贵服务和缺人烦恼,再见漫长交付周期
无限创意,分分钟生成专业级产品
感受 AI 带来的全新工作体验！
欢迎各大品牌方、媒体、企业和个人等
请联系负责人微信：Milo-1101
--END--
