欢迎回到 AI 科技大本营 2025 AI 前瞻周。随着 CES 2025 “科技春晚”的落幕，美国科技圈又开始忙碌了起来：“星际之门”项目发布、各大 AI 厂商发新模型、名人采访扎堆亮相……今天带来的是去年的“另一位诺奖 AI 大咖”德米斯·哈萨比斯的最新采访，作为 DeepMind 的话事人，他爆的料可全都是谷歌的最新前沿动态，不容错过。
整理丨王启隆
出品丨AI 科技大本营（ID：rgznai100）
“如果进展顺利，今年年底我们就可能有第一批由 AI 开发的药物进入临床试验阶段。礼来制药和诺华都已经把他们最棘手的项目交给我们。” “谷歌视频模型 Veo 2 标志着世界模型的开端。这正是我们开发通用型数字助手所需要的，这种助手能在日常生活的各个方面帮助你。” “过去 15-20 年，我们一直把 AGI 定义为一个能展现出人类所有认知能力的系统。按这个标准，实现真正的 AGI 还需要 5 到 10 年。” “Agent 系统会彻底改变互联网架构。未来一两年内，可能会有数十亿个 AI Agent 在网络上相互交互，代表供应商和消费者进行谈判。” “现在所有的 AI 都会遇到幻觉问题，但我们的 Gemini 2.0 可以自己做事实核查，这在科学研究领域特别重要。”
以下是访谈全文，由 CSDN 精编整理：
年底首批 AI 新药即将进入临床
主持人：让我们从你获得诺贝尔奖之前开始聊起吧。得知获奖的感受如何？
Demis Hassabis：说实话，到现在我还觉得不太真实，整个过程都像在做梦一样。这其实是我从小就有的梦想。当初投身人工智能领域，就是希望能推动科学发展。我一直认为人工智能可以成为推动科学进步的有力工具，特别是在改善人类健康方面，比如在药物研发领域，而 AlphaFold 在这方面就发挥了极其重要的作用。
主持人：能请你简单介绍一下 AlphaFold 是什么吗？
Demis Hassabis：当然可以。我们就是因为开发 AlphaFold 这个程序获得了诺贝尔奖。它最厉害的地方在于，只要给它一串蛋白质的氨基酸序列，也就是基因序列，它就能推算出这个蛋白质的立体结构。
这个突破非常重要。我们身体里所有的功能都离不开蛋白质，而蛋白质的立体结构决定了它的功能。它们在体内会折叠成特定的立体形状，这种形状就决定了它们能做什么。无论是研究疾病、了解生命运作的规律，还是研发新药，都需要先弄清楚蛋白质的立体结构。AlphaFold 就是解决这个难题的一把钥匙。
主持人：你是怎么庆祝（获奖）这个好消息的？
Demis Hassabis：这还是个挺有意思的故事。10 月 9 号那天，获奖的消息来得特别突然——要知道，从做出重大突破到获得诺贝尔奖的认可，一般都得等上很久，可能是 10 年、20 年，有时候甚至要等 30 年、40 年。而我们只用了 4 年就获得了这个奖，确实有点意外。
说来也巧，第二天正好有个绝佳的庆祝机会。当时我的一位童年好友在家里举办了场棋牌之夜，请来了几位在城里的朋友。其中不乏世界顶级的国际象棋和扑克高手，包括世界象棋冠军卡尔森在内，都是一等一的高手。那晚的情形很有意思，我还特意拍了张照片，打算以后发到 X 平台上分享。大家玩得特别认真，谁都不让谁，这种氛围恰恰是最令我享受的。
主持人：他们都没有放水让你赢？
Demis Hassabis：确实没有。
主持人：你刚才提到获奖来得特别快。这是不是也意味着学术界开始认可人工智能的价值了？毕竟另外两位获奖者的研究也都是关于人工智能的。
Demis Hassabis：从诺贝尔委员会的选择来看，确实是这个意思。物理学奖授予辛顿和霍普菲尔德，表彰他们在人工智能基础研究方面的杰出贡献。再加上我们的工作，这些都表明人工智能已经发展到了一个新阶段，它现在确实能帮助我们解决一些最深奥的科学难题了。
说到获奖时间，虽然来得出乎意料，但这也很好理解。按照诺贝尔的遗嘱，这个奖项是要授予“为人类带来最大福祉”的成果。所以委员会不光看重研究本身的突破，还要看它是否真正造福了人类社会，而且影响要足够深远。
通常来说，从取得突破到看到实际影响，往往需要几十年的时间。但对我们团队、整个 DeepMind 和谷歌来说，AlphaFold 很快就展现出了巨大的价值。我给你举个例子：现在全球已经有超过 250 万研究人员在使用它，我们还用它解析出了已知的所有蛋白质结构，总共有 2 亿个。要知道，用传统实验方法，确定一个蛋白质的结构平均需要 5 年时间。一个博士生可能整个博士阶段才能搞定一个蛋白质的结构。按这个速度，2 亿个蛋白质结构就得花上 10 亿年的时间。而现在，我们把这些数据全都免费开放给全世界使用。
这就是我所说的“数字时代的科学研究”。就像数字技术能快速传播到世界各地一样，科学突破现在也可以更快地推广应用，特别是在医疗健康领域。
主持人：你现在的研究重点是什么？大家都很想知道，你觉得未来哪些领域最可能出现重大突破？
Demis Hassabis：我们目前主要在两个方向上投入力量。第一个是继续做基础研究，我们在开发更先进的模型，涉及生物学、化学、物理学、数学，还有天气预报等领域。比如说，新版本的 AlphaFold 已经能够分析动态的生物学过程了。
另一个方向更偏向实际应用。我们专门成立了一家新公司 Isomorphic Labs，就是为了把 AlphaFold 的技术用在药物研发上。其实要开发新药，光知道蛋白质的立体结构还不够，这只是整个过程的一小部分。你还得设计药物分子，确保它无毒、性质合适、能够溶解。这些工作都需要其他同样复杂的模型来配合。如果把这些技术都整合起来，就有可能彻底改变新药研发的方式。要知道，现在开发一种新药通常需要 5 到 10 年时间，我们的目标是把这个过程缩短到原来的十分之一，这对人类健康来说将是一场革命性的突破。
主持人：那么，什么时候我们能看到第一个由 Isomorphic 和人工智能共同开发的药物问世呢？
视频模型 + Agent = ？
主持人：我知道你最关心的是科学研究，不过现在你要负责谷歌的所有人工智能项目。去年很多人都说谷歌还在追赶 OpenAI，OpenAI 才是行业焦点。但是今年你们取得了好几个突破，你觉得哪一个最重要？
Demis Hassabis：过去一年我们确实成果丰硕，现在还在保持这个势头。去年年底我们推出了一系列新模型。其中最重要的是 Gemini 2.0，特别是它的 Flash 版本。虽然这是最小的版本，但以它的规模来说，性能和效率都特别出色，非常适合推广给数十亿用户使用。各项评测的结果都很令人满意。
我们还开发出了最先进的视频模型 Veo 2。你们可能看过我们制作的一些视频，它对物理规律的模拟精确程度真的让我惊叹。有个经典的测试案例是生成一段切西红柿的视频。听起来很简单，但实际上很有挑战性，因为要准确展示手指和刀具的位置，切下的片段还不能莫名其妙地重新黏在一起。Veo 2 在这些细节上的表现都非常出色。
对我们来说，这标志着“世界模型”的开端。这种模型不仅能理解语言，还能理解现实世界的丰富性，包括空间和时间等维度。这正是我们开发通用型数字助手所需要的，这种助手能在日常生活的各个方面帮助你。
主持人：你说的这些就是所谓的“Agent”系统吗？
Demis Hassabis：对，这就是我们正在开发的 Agent 系统，项目代号叫“Astra”。目前这个项目还处于研究阶段，正在进行可信用户的测试。
主持人：普通用户要等多久才能用上这个系统呢？
Demis Hassabis：这得看测试的结果，而且还有很多研究工作要做。不过我觉得今年晚些时候，应该能推出一个面向普通用户的版本。这些技术的发展方向真的让我很兴奋，现在我们在大多数领域的模型都处于领先地位。
主持人：说到竞争，继 OpenAI 之后，DeepSeek 也推出了能进行推理的大语言模型。Gemini 2.0 有这种能力吗？你们是怎么实现这一点的？
Demis Hassabis：我们有自己的版本，我们称之为“思维模型”。现在这是所有顶尖实验室最热门的研究方向之一。我们在探索怎样让一个基础模型通过预训练和后期训练，在实际使用时能够进行更深入的思考，对自己的答案进行反思，必要时还能用搜索等工具来核实信息。这样做的主要目的是解决现有模型的一些问题，比如“幻觉”现象。
其实在 DeepMind 早期开发 AlphaGo 和其他游戏 AI 时，我们就开创了这个领域。那些 AI 都是 Agent 系统，都包含模型和思维或搜索功能。现在的区别在于，我们不是在处理规则简单的游戏，而是要应对现实世界，这要复杂得多。我们需要建立模型来理解语言，学习这个世界的各种规律。
在 AlphaGo 那样的游戏中做规划比较容易，因为规则简单明确。现实世界就复杂多了。即使你的世界模型只有 1% 的误差，当你往前推演 100 步时，这个误差也会不断累积。走到第 100 步时，由于这 1% 误差的积累，你可能已经完全偏离了正确的轨道。所以要在较长时间内进行准确的思维和推理，模型必须有很高的准确性和可靠性。
主持人：所以我很好奇推理这个问题。我们现在使用的大语言模型最大的问题之一就是“幻觉”，我想你经常被问到这个问题。有种说法是可以通过让模型自己做事实核查来克服这个问题。但似乎这种方法并没有得到广泛应用，这是为什么呢？
Demis Hassabis：我们正在通过几种不同的方式来解决事实准确性的问题。很高兴地告诉大家，Gemini 2.0 在这方面比我们之前的版本有了很大进步。作为谷歌和 DeepMind 的一员，我们特别重视这一点。毕竟如果想用这些模型来做科学研究——这也是我最终的目标，准确性就显得尤为重要。
解决这个问题有很多方法。首先，我们可以在训练阶段就下功夫，比如在预训练时就把错误信息过滤掉。其次，我们可以让系统学会使用工具，比如调用谷歌搜索来核实事实。还有什么比搜索引擎更适合做事实核查的工具呢？关键是要让系统学会在什么时候该去查证。最后就是推理能力，如果给系统更多时间来思考，让它能够反复推敲而不是急着给出答案，准确性自然会提高。
主持人：有人说，其实你们不应该完全消除“幻觉”，因为这恰恰是创造力的来源。你同意这个观点吗？
Demis Hassabis：这个说法在某些领域可能有道理。但如果要这样做，就应该是有意识的选择，而不是随机发生的现象。我们最好能设置一个开关，让用户明确表示“我现在需要创造性思维”。不过这也让我们不得不思考一个更根本的问题：什么才是真正的创造力？“幻觉”也许是进入新思维空间的一种方式，但这应该是一个可控的功能，而不是系统的缺陷。
主持人：那你自己是怎么使用Gemini的？又是怎么指导孩子们使用这项技术的？
真正的 AGI 还需要 5-10 年
主持人：你过去经常提到，你所做的一切都是为了实现通用人工智能（AGI）。但我一直不太明白，到底是什么问题这么重要，非得用 AGI 来解决不可？等会儿我还想请教你对实现 AGI 的时间预期。
Demis Hassabis：我想解决的是理解现实本质的终极问题。这种求知欲从我小时候就有了。通常对这类问题感兴趣的人都会选择物理学，确实，物理学曾是我在学校最喜欢的科目。但后来我读了很多著名物理学家的著作，比如费曼、温伯格，看到他们在寻找终极理论和统一物理理论的努力后，我觉得也许人类需要一些帮助。即使是最聪明的专家，可能也需要一个强大的工具来辅助研究。
在我看来，人工智能就是我能为探索终极意义作出的贡献。我觉得探寻意义是人类最深层的需求之一。如果我们真的想搞清楚物理学和意识的本质，理解梦境和时间的奥秘——说实话，我不明白为什么不是每个人都在思考这些问题，因为这些问题一直困扰着我。我们天天都在经历这些现象，却连时间到底是什么都说不清楚。
主持人：但这种神秘感不正是生命的魅力所在吗？
Demis Hassabis：确实如此。但人类天生就是好奇的生物，这也是为什么会有科学和哲学的存在。我特别喜欢哲学，我觉得现在我们需要新一代的哲学家。如果现场有哲学家的话，我想说的是，我们现在确实需要像康德那样的思想家来帮助我们理解未来的方向。要想完全理解现实的本质，包括所有的物理现象，我们可能需要一个 AGI 级别的系统。
主持人：你觉得实现这个目标需要多长时间？是 5 年？10 年？还是 50 年？
Demis Hassabis：这个问题现在争议很大。我平时不太愿意给出具体时间，而且这也要看你怎么定义 AGI。在 DeepMind，我们过去 15-20 年一直坚持一个定义：AGI 是一个能够展现出人类所有认知能力的系统。人类大脑是我们目前在宇宙中发现的唯一一个具有通用智能的例子。所以如果你说一个系统有通用智能，那它就应该能做到人类大脑能展现的所有事情，包括创造力。
按照这个标准来看，我认为实现真正的 AGI 还需要 5 到 10 年时间。可能还缺少一两个关键性的突破。
主持人：这个问题我想你一定想过很多遍：究竟应该由谁来判断我们是否已经实现了 AGI？是科学家、人工智能专家，还是政府和整个社会？现在在这场讨论中，后两者似乎都没什么发言权。
Demis Hassabis：我认为这需要整个社会共同参与，包括所有利益相关方：产业实验室、学术界、公民社会、各大研究院，以及政府。在考虑技术部署和产品应用时，所有可能受影响的群体都应该有发言权。
在谷歌和 DeepMind，我们一直在努力广泛听取各方意见。我们组织了人工智能科学论坛，我也经常和各大研究院交流，比如英国皇家学会、美国国家科学院。但我觉得可能我们还缺少合适的机构。如果联合国的状况更好一些，这本应该成为一个国际性的讨论话题，因为这不是某个国家单独能决定的事情。
短期高估与长期低估
主持人：你比较担心哪些风险？等会儿我们再谈谈监管的问题。
Demis Hassabis：我主要担心两个方面的风险。第一个是有人可能会把通用人工智能系统改造成做坏事的工具。我们一直都很支持开放科学和开源，比如说 AlphaFold 就是完全开源的。过去十年里，我们也发表了大量研究成果，现在业界 80-90% 的技术都是建立在谷歌和 DeepMind 公开的研究基础上，像 Transformer 架构、AlphaGo 这些想法，我们都是无偿分享给大家的。
但人工智能和其他技术不太一样，它太灵活了，用途太广泛了，很容易被重新改造。系统越是像人那样能自主行动，就越容易被人改造成其他用途。如果是一般的网络接口，一旦发现有人在滥用，你还可以直接关掉访问权限。但人工智能系统的特殊之处在于它是一种新兴技术，不是你测试一下就能完全了解的东西。比方说汽车引擎，它不会突然冒出你不知道的新功能。但人工智能系统即使你测试了半年，等到几十亿人开始使用时，可能有人就会想出新的组合方式，发现一些意想不到的新用途。
第二个风险是来自技术本身的，我们有时候把它叫做“AGI 风险”。这个倒不是现在的问题，而是等我们真的接近 AGI 时才需要面对的。
主持人：如果按照你的路线发展，我们确实会越来越接近 AGI。
Demis Hassabis：是的，但这不仅仅是我的选择。如果你研究科学发展史就会发现，只要某件事是可能的，而且值得去做，总会有人去做的。说到人工智能，我们已经过了能够刹车的阶段了。所以我们现在要做的是，想办法让它安全地融入这个世界。
这意味着我们要考虑 AI 本身的主动性，考虑应该开发什么样的 AI，然后在国际上就此达成共识。建造 AI 的方式有很多种，如果你仔细想想 AGI 可能的设计方案，有些方案可以让 AI 保持可控、容易理解，但也有些方案会让 AI 变得难以理解和控制。
这些问题现在就需要研究。技术层面的问题反而不是最难的——我对此很乐观，只要给我们足够的时间和人力，技术问题总是能解决的。真正的挑战在于地缘政治层面的协调，比如如何避免囚徒困境或公地悲剧这样的问题。
主持人：说到这个就不得不提到唐纳德·特朗普了，因为就在 24 小时之内，他就退出了好几个国际协议。这意味着在未来四年里，达成任何国际共识都会非常困难。而且可能会出现更多的放松管制，而不是加强管制。这让你担心吗？
Demis Hassabis：我们还是要看新政府具体会怎么做。不过有一点让我感到欣慰，就是新政府团队中有不少深谙科技的专家。他们清楚这里面的机遇和风险。我认识的很多人都很了解这其中的利害关系，包括好处和坏处。这可能是件好事。
我认为对待这项技术要做到既大胆又负责。说到大胆，我就很赞成英国政府在经济增长方面的尝试，比如提高医疗服务效率，将 AI 用于医学研究，治疗疾病，应对气候变化。说实话，我想不出不用 AI 这样的新技术，我们要怎么解决当今社会面临的这些重大挑战。但同时我们也需要用明智和负责任的方式来做这些事。我建议把科学方法放在核心位置。
主持人：说起竞争对手，埃隆·马斯克最开始是支持暂停 AI 发展的，他想要放慢节奏，但现在他自己也推出了 Grok 成为了竞争者。而且他很可能会成为一个受到特别优待的竞争者。这可能带来的问题比单纯的放松管制更严重。我听说你从早期就认识他？
Demis Hassabis：是的，我们是好朋友，虽然现在也成了竞争对手。他是 DeepMind 的早期投资人之一，我们认识已经超过 12 年了。从一开始我们就在讨论 AI 的话题——说实话，我觉得是我最初让他对 AI 产生兴趣的。
这里涉及的问题远比公司之间的竞争或产品之争重要。我们一直在讨论人类的未来，人类的处境，我们作为一个社会、作为一个物种想要走向何方。这才是真正的关键。我觉得有些人已经意识到这一点了，但可能还需要更多人来理解这个问题的重要性。
我觉得大家现在对 AI 的短期影响有点反应过度——动不动就说明年就能实现 AGI 了，搞得人心惶惶。但说实话，AI 在未来 5 到 10 年内会带来什么样的改变，反而被低估了。
主持人：我倒是对企业采用 AI 的速度感到意外，比我预想的要慢。ChatGPT 问世第一年后，大家都觉得必须要尝试，也确实都在尝试，但似乎都没找到真正合适的应用方式。
Demis Hassabis：这就是我们现在的处境——这些看起来很厉害的系统，其实只在一些具体的场景下有用，比如总结文档、做研究、写格式化的推荐信之类的。它还不是真正的 AGI，因为如果是 AGI 的话，你会看到各种完整的数字助手真正融入你的日常生活，帮你做各种事情，从推荐有趣的内容到丰富你的生活方式等等。但现在这些都还没实现。真正重大的变革会在 5 到 10 年内发生，但我觉得很多人还没意识到这一点。
主持人：你觉得它会怎么改变我所在的媒体行业呢？
Demis Hassabis：也许说它不会改变什么更容易一些——说实话，它会带来方方面面的影响。我经常思考社交媒体的问题。现在我们每个人都被各种算法推送的信息淹没了，而这甚至还不是 AI 算法，只是普通的软件和推荐系统。我在想，我们能不能让技术真正为个人服务，甚至帮助我们保护自己的思维方式。
比如说，想象一下有这么一个数字助手，你可以设置它说：“今天我想安安静静地写作（或编程、做研究），除非有特别紧急的事，否则都别打扰我。”
比定居火星更遥远
主持人：让我们听听观众的问题。
观众：你提到了天气模型，我很好奇你们是否也在研究气候问题？这两个问题有什么不同？
Demis Hassabis：我们确实开发出了 GenCost，这是目前世界上最准确的天气预报模型，而且我们已经开源了。至于气候建模，这是个完全不同的课题。你要处理的数据类型不一样，而且不像天气预报那样是短期预测，气候预测要看很长的时间跨度。我们的 GenCost 团队正在考虑把研究扩展到气候建模领域。
观众：几年前你曾经提到可能会把 AGI 交给联合国这样的机构管理。在这场 AI 竞赛开始之前，各家公司都在公开分享研究成果。现在你还是这么想吗？如果一家公司真的开发出了 AGI，它应该继续持有吗？公司的股东会同意放弃这种技术吗？
Demis Hassabis：这确实涉及到近期的资本主义体制等问题。但是往长远看，等到我们在 10 年内实现了完整的 AGI，经济学家们可能需要重新思考很多基本问题：它对货币、对资本主义制度、甚至对公司这个概念本身会产生什么影响。我觉得这些都可能会发生根本性的改变。
这件事显然不是一家公司能掌控的，更不是某个个人或某个国家能决定的。这关系到全人类的福祉。理想情况下，应该有一个能够应对这个重大时刻的机构——一个由各行各业聪明人组成的国际委员会，不仅要有技术专家，还要有哲学家、社会学家、作家等，大家一起商讨。
但问题是，谁来建立这样的机构呢？这确实是我们现在急需的。理想情况下，它应该像联合国这样的组织，但由于地缘政治紧张和安理会的问题，这很难实现。也许我们可以借鉴欧洲核子研究组织（CERN）的模式，建立一个专门研究 AI 的国际机构。这个机构可以非常谨慎、科学、严谨地推进最后几步的研究，让政府、学术界和产业界都能参与其中。
主持人：这就是为什么你说自己是个“谨慎的乐观主义者”吗？
Demis Hassabis：说我乐观很容易理解——我把一生都投入到 AI 研究中，就是因为我相信它将成为人类史上最令人惊叹、最有益的技术。我相信通过它我们能治愈所有疾病，找到新的清洁可再生能源。这会给我们带来前所未有的富足。之后，我们就可以踏上星际旅程，把人类的意识传播到整个银河系。这就是我觉得将要发生的事情。
主持人：看来我们很快就能到达火星了。
Demis Hassabis：不只是火星，我们能走得更远。想想《星际迷航》或者伊恩·班克斯的《文化》系列小说描绘的世界——那将是个多么令人惊叹的未来啊。这就是我们想要达到的境界。这是我乐观的一面。我想很难找到比我更乐观的技术爱好者了。
但是，我们得小心翼翼地走到那一步。有很多种方式可以开发出为人类服务的 AGI，帮助我们实现这个终极目标。我把它看作是将人类意识传播到星辰大海——这就是卡尔·萨根为人类描绘的愿景。这个目标现在看起来触手可及，但如果出了差错——无论是被不法分子滥用，还是 AGI 本身失控——后果都可能是灾难性的。
在面对这么多不确定性的时候，我乐观的另一个原因是我相信人类的创造力。我们的适应能力特别强。人类的大脑真是太神奇了。想想看，我们用这个原本是为了采集和狩猎而进化的大脑，却创造出了现代文明，这是多么不可思议啊。每次我坐 747 飞机去加利福尼亚的时候都会想：我们是怎么做到这一切的？很多人已经把这当成理所当然了。如果我们告诉我们的狩猎采集者祖先这些事，他们一定会觉得不可思议。
我们已经走了这么远。我相信我们也能完成这个新的挑战，但我们需要通力合作，用正确的方法去做，而不是急于求成。如果我们能让世界上最优秀的头脑——比如说数学界的泰瑞恩斯·陶这样的天才——来研究这些 AGI 的设计问题，只要给我们足够的时间，技术问题总是能解决的。但我们能解决地缘政治和社会问题吗？这才是真正的挑战所在。
主持人：听起来你们可能需要先放慢几年，然后再加速前进。
观众：我想接着谈谈你提到的 AI Agent 系统。当将来有大量这样的 Agent 系统在各处活动，互相之间产生交互时会发生什么？特别是在金融服务这样的实际应用中，谁来为它们的行为负责？
Demis Hassabis：Agent 系统之所以一定会被开发出来，是因为它比非 Agent 系统要实用得多。现在的语言模型聊天机器人基本上就是一个被动的问答系统。比如说，如果你想找餐厅，为什么要到此为止呢？你肯定希望它能直接帮你订位子。正因为 Agent 系统能帮人们节省时间，改善生活，所以人们一定会选择使用 Agent 而不是非 Agent 系统。
但这就引出了你提到的问题——再过个一两年，可能就会有数百万甚至数十亿个 Agent 程序，它们会代表供应商和消费者进行各种谈判。我们可能需要重新思考整个网络基础设施和应用程序的架构。这是另一个即将在中期发生、但目前被人们低估的重大变革。
观众：关于你们的生物系统，要多久才会有人利用它设计出能杀死所有人的完美病原体？
Demis Hassabis：首先要说明的是，开发病原体根本不需要用到 AI 系统。在推进 AlphaFold 和其他工具的研发过程中，我们每走一步都会跟生物安全专家和生物伦理学家保持沟通。在发布 AlphaFold 2 之前，我们就咨询了 30 位生物安全专家和诺贝尔奖得主，确保这项技术带来的好处大于潜在风险。我们也根据他们的反馈做出了相应的调整。
随着系统变得越来越先进，我们需要建立相应的检测系统。这也是为什么开源可能会成为一个问题——如果是通过 API 接口提供服务，你就可以建立检测系统，在有人试图开发有害病原体时立即发现。我们特别关注三个领域的安全问题：网络安全、生物安全和核安全。
观众：现在看起来中美在进行一场 AI 竞赛。如果其中一方胜出，你觉得会对世界产生什么影响？另外，来自大公司的大数据会不会产生偏见？
Demis Hassabis：最近刚发布的 DeepSeek 模型确实很有意思，而这正是我们需要国际合作的原因。如果我们能建立一个类似欧洲核子研究组织那样的 AI 研究机构，也许可以决定只开发一个功能强大但有完善安全保障和管理机制的系统。不是所有人都能接触到最强大的系统，可能需要设置不同的访问权限等级。我们应该考虑一些安全措施，比如水印技术——如果有人输出蛋白质序列、分子结构或 DNA 序列，系统要能自动检测是否有人在设计有害物质。理想情况下，这些都应该通过国际协议来规范。
施密特：AI 今年会获得永久记忆，2028 美国耗尽能源储备
年度盘点：99% 不懂 AI 的人和剩下 1 % 产生了鸿沟
