与谷歌 DeepMind 联合创始人谢恩-莱格（Shane Legg）和谷歌技术与社会高级总监米拉-莱恩（Mira Lane）就人工智能目标的进展进行对话。
Mira Lane 人工智能发展的现状如何，我们离实现 AGI 的可能性还有多远？
Shane Legg 我们都看到，人工智能正在快速发展。我认为我们可能在五年内就能与人工通用智能生活在一起。我认为 10 年内的可能性更大。当我在 2009 年首次预测 AGI 时间线时，我预测到 2028 年 AGI 的可能性为 50%。因此，让我们暂时认真对待未来 10 年内可能发生的事情。AGI影响着所有这些不同的领域，而你不可能成为所有这些领域的专家。AGI的出现实际上需要人类在所有领域都具备深厚的专业知识。我们真正需要的是，大学里所有不同的系和不同的学院都思考 AGI 的到来。后 AGI 时代的医学是什么样的？后 AGI 时代的会计学是什么样的？后 AGI 时代的教育是什么样的？后 AGI 时代的科研是什么样的？后 AGI 时代的经济学是什么样的？
Lane 你现在是如何定义AGI 的？我觉得这是一个很大的开放性问题。
Legg 我对 AGI 的定义是：能够完成人类通常能够完成的认知任务的人工智能。我认为这是自然的最低标准。关于 AGI 能力的一些高水平，请参阅我们去年在谷歌 DeepMind 写的论文《AGI 的水平》。
Lane 目前人工智能研究中最重要的开放性问题是什么？
Legg 我们正在不同的领域研究人工智能，很多人认为实现 AGI 可能是一种完善和改进，是在我们已经知道的事情上下功夫，并以正确的方式将我们已经知道的一些方法结合起来。这并不能保证。也许真的需要一个大的突破，我们还不知道。但要实现 AGI，可能并不需要像谷歌开发的转换器那样大的突破。会有一些进步的。目前有各种低垂的果实可以让我们的模型变得更好，比如数据集、记忆、规划和推理方面的进步。随着我们在这些方面的努力，我们会看到所有不同领域的进步。因此，我们有信心，至少在未来几年内，我们能让这些已经非常出色的模型变得更好。然后，当我们开始用这些模型制作代理时，这些代理将在与不同类型的环境交互时产生数据，并尝试在这些环境中实现目标。然后，我们将根据这些数据训练新的基础模型。这样得到的模型将更适合构建代理。这个过程可能会让我们最快在五年内实现 AGI。
我们正在不同的领域研究人工智能，很多人认为实现 AGI 可能是一种完善和改进，是在我们已经知道的事情上下功夫，并以正确的方式将我们已经知道的一些方法结合起来。
Lane 您设想如何衡量人工智能系统的理解水平？
Legg 是的，这很难。人工智能代理的智能行为并非所有方面都容易衡量。如果有些方面难以衡量，你就不知道自己在这些方面做得如何，而如果你不知道自己在这些方面做得如何，你甚至可能意识不到自己需要在这些方面做得更好，或者已经做得很好了。
另一个问题是，即使你能衡量某些东西，但你能衡量的东西实在是太多了。因为如果你要测量的是一个人工智能，它就具有普遍性，而不是说它在做一件具体的事情。如果它做的是一件非常具体的事情，你可以从这个方面对它进行全面测量。但如果它非常非常通用，它就可以做任何事情，从编写代码到理解 20 种语言，从制作音乐到制作图片，从诗歌到法律工作，无所不能。要测量的东西太多了。因此，衡量问题非常困难，也非常重要。
它之所以困难，还因为它不是一件光彩夺目的事情。你可以这样想： 奥运会最有魅力的项目是 100 米短跑，对吗？但是，如果有人不修建跑道，不把起跑枪和终点照相设备都准备好，你就不可能举办 100 米短跑比赛。大家都知道，[没有这些人]就不会有好的赛事，但荣耀属于选手。
Lane 不是赛道的设计者？
Legg 设计不会吸引同样的关注，但如果没有好的赛道和照片，比赛就不会很顺利。你需要一个良好的赛道，它必须是水平的、合适的表面以及所有这些东西。长期以来，机器学习一直存在这样一个问题：从心理上讲，人们更倾向于建立代理或在基准上达到最先进的水平，而不是建立基准本身。
Lane 你认为哪些治理模式对确保这种积极转变很重要？您认为公众需要在哪些方面加深理解？
Legg 我的意思是，这些都是巨大的问题。我认为最大的问题是，最近公众对LLM的理解有了很大的进步，因为这不是一种你只是在书本上看到的技术；你可以在手机上获得它，你可以与它交谈和互动。因此，你至少可以开始对这一技术有所了解。公众正在这样做。这是否意味着人们明白强大的人工智能即将到来？奇怪的是，我觉得很多人都明白。实际上，我认为，有时，对技术感兴趣的普通人比专家更能理解这一点，因为专家往往持怀疑态度，并带着很多长期的信念和偏见来看待这个问题。在我的职业生涯中，我看到了这一点。
Lane 怎么说？
Legg 当我们创办 DeepMind 时，每个人都说我们认为机器学习将大有可为，这太荒谬了。人们认为，我们要去做这件事，要在《自然》杂志上发表论文，要在学术期刊上获奖，这些都很荒谬。但事实并非如此，人工智能一直在进步，而且越来越好。
Lane 我们在讨论高能力的人工智能系统将如何改变每一个行业和人类的努力。我用 LLM 做了很多事情，它非常出色。我曾与模型共享过电子邮件、文档和短信，它能帮助我审视不同的视角。
Legg 我最近就做了类似的事情。我收到了几条信息，想更好地理解对方想要表达的意思。他们似乎在暗示什么，于是我把它放到 LLM 中，问 "这个人到底想说什么？”
Lane 很吸引人，不是吗？
Legg 这是一个全新的世界，真的。
Lane 展望未来 50 年，您认为 AGI 将以哪些最深刻的方式改变社会，您对人工智能未来最大的希望和担忧是什么？如果我们做对了，会是什么样子？
Legg 减少贫困，增加获得各种资源和教育的机会。我认为医学和科学研究都会得到长足的发展。这对环境也有好处。我们可能会有新型清洁能源或新型材料和产品。我认为社会的各个方面都有可能得到改善。
https://www.theatlantic.com/sponsored/google/Its-time-to-think-about-super-intelligent-ai/3974/
