尤瓦尔·赫拉利：从大历史视角看待AI的影响

我是《人类简史》的作者尤瓦尔·赫拉利，现在正站在探索人工智能塑造世界力量的前沿。人工智能超越了人类历史上任何曾经面对的挑战。问题不在人类，而在于算法。

在2010年代，有一场关于人类注意力的算法大战。算法发现，当你回顾历史时，最简单的吸引人类注意力的方式就是按下“恐惧按钮”、“仇恨按钮”和“贪婪按钮”。

问题在于，给算法设定的目标与人类社会的利益不一致。这让人非常不安，因为如果仅仅是社交媒体算法的错误目标就造成了这么大的破坏，那么20、30年后，人工智能的结果会如何？那解决方案是什么？我们历史上曾多次处于这种情况，答案总是相同的。我尽量保持现实。你是否乐观？我努力保持现实主义。

主持人：10年前，你做了一场著名的TED演讲，题为“为什么人类主宰世界？”在阅读了你的新书《Nexus》（《智人之上：从石器时代到AI时代的信息网络简史》）后，我想问一个稍微改动过的问题：你是否仍然认为10年后人类会继续主宰世界？

尤瓦尔·赫拉利：我不确定，这取决于我们未来几年的决定。但有一种可能是，答案是否定的——十年后，算法和人工智能将主宰世界。我并不是指好莱坞式的科幻场景，不是一个巨大的计算机征服世界，而是人工智能的官僚体系。我们将拥有数百万个人工智能官员，它们将在银行、政府、企业和大学中到处存在，并做出越来越多关于我们生活的决定。我们将越来越难理解这些算法的逻辑和理由。

主持人：你是说权力会逐渐从人类转移到这些新的“外星智能”上？

尤瓦尔·赫拉利：是的，我更愿意称之为“外星智能”。虽然我们称之为“人工智能”，但更准确的说法应该是“外星智能”，因为它们做决策的方式与人类思维有根本的不同。

随着每一年过去，人工智能变得越来越不像我们想象中的“人工”。我们仍然设计这些人工智能的“婴儿阶段”，但它们会学习、改变，开始做出我们意想不到的决定，提出与人类思维完全不同的新想法。

2016年，AlphaGo打败了围棋世界冠军李世石。令人惊讶的是，AlphaGo打败他的方式。人类下围棋已经有2500年的历史，围棋是中国古代发明的策略游戏，几千年来一直被认为是东亚文明人必备的基本技艺。

然而，AlphaGo展示了人类过去2500年探索的只是围棋世界的一个小部分，它在几天内就发现了完全不同的下法。这太不可思议了，这类似的事情是否会发生在金融、医疗或其他领域？非常有可能，不管是好是坏。

主持人：那你的新书《Nexus》是怎么讲述这些内容的呢？你是一个对生命本质和历史本质都充满广泛好奇的人。你写了一本如此详细且全面的书，肯定有非常强烈的原因让你现在必须写这本书。为什么是现在写这本书？

尤瓦尔·赫拉利：因为我认为我们需要从历史的角度看待这场人工智能革命。虽然关于人工智能的书很多，但《Nexus》不是一本专门讲人工智能的书，而是关于信息网络长期历史的书。

我认为，要理解人工智能真正的创新和重要性，我们需要回溯数千年的历史，看看以往的几次信息革命，比如文字的发明、印刷术和广播的出现。只有这样，我们才能真正理解现在发生的一切。

人工智能与之前的技术革命不同，因为它是人类历史上第一个能够自主做决策并创造新想法的技术。印刷机可以印我的书，但它无法自己写书；原子弹可以摧毁一座城市，但它不能自己决定炸哪个城市或为什么去炸。而人工智能可以做到这些。

现在关于人工智能的炒作很多，所以人们容易混淆。比如，大家现在想把所有东西都打上“人工智能”的标签——你想卖一张桌子，他们会说这是“人工智能桌子”；你想卖水，他们会说这是“人工智能水”。

但事实上，不是所有东西都是人工智能。很多自动化并不是人工智能。比如一台自动咖啡机，它可以自动做咖啡，但它并不是人工智能。它是由人类预先编程好的，无法自行学习或改变。

而当咖啡机早上对你说：“根据我对你的了解，我猜你想要一杯浓缩咖啡。” 那这就是人工智能了。它学会了关于你的某些信息，并做出了自主决策。如果它还告诉你：“我刚发明了一种新饮料，叫Buffy，我觉得你会喜欢。” 

这才是真正的人工智能，因为它提出了完全新的想法，这些想法不是我们预先编程的，也不是我们能够预见的。这真的改变了历史的游戏规则，人工智能的影响比印刷机或原子弹还要大。

主持人：你提到我们需要从历史的角度来看待人工智能革命，那你认为自己是历史学家吗？

尤瓦尔·赫拉利：是的，我的职业就是历史学家，这是我的专业训练。我最早是中世纪军事历史的专家，写过关于十字军东征和百年战争的文章，还写过关于14世纪英格兰军队入侵法国的战略和后勤的文章。这些是我最早的研究领域。而我在研究人工智能时，也带来了这种历史的视角。

主持人：大多数人对人工智能的理解是基于他们与大型语言模型的互动，比如ChatGPT或Gemini等。他们觉得人工智能只是回答问题的工具，因此很容易低估它的影响。但你在讨论信息和信息网络的革命时，让我对人工智能有了完全不同的看法。

尤瓦尔·赫拉利：信息是万物的基础。当你动摇了信息的基础，一切都可能崩溃、改变，或者出现新的东西。例如，民主制度的基础就是信息技术。

民主本质上是一场对话，一群人通过对话一起做决定。早期的狩猎采集社会是相对民主的，因为他们生活在小规模的群体中，大家可以直接对话，做出共同的决定。

然而，随着人类社会的扩大，进行这种对话变得越来越困难。我们在古代只见过一些小型城邦民主制度的例子，比如雅典或罗马共和国。大规模民主直到现代晚期才得以实现，这得益于几种信息技术的出现，如报纸、电报、广播和电视。没有这些信息技术，大规模民主是不可能的。

所以，民主的基础就是信息技术。而现在我们看到社交媒体和人工智能的兴起，这种信息技术的地震正在动摇民主。全世界都在经历这样的变化，人们无法再进行有效的对话。我们在巴西、法国、菲律宾等地都能看到类似的现象。所以，这不仅仅是某个国家的独特条件导致的，而是背后有着深层次的技术革命。

而历史带给我的另一点启示是，即使是看似微小的技术变革，也可能带来深远的影响。比如，文字的发明，最初基本上是人们在玩泥巴。文字在很多地方被多次发明，但最早的发明是在古代美索不达米亚，人们拿着泥板，基本上就是一块泥，然后用一根木棍在泥上做记号，这就是文字的发明。这个发明产生了深远的影响。

举个例子，你可以想象一下所有权的概念。什么叫拥有一块土地，比如我拥有一块田地？在文字发明之前，如果你住在7000年前的小美索不达米亚村庄，拥有一块田地意味着村民们都同意这块田是你的，他们不会去摘你的果子，也不会让他们的羊在你的田里吃草，因为他们认可这是你的田。这是一种社区协议。

而文字出现后，所有权的含义发生了变化。现在，拥有一块田或一所房子意味着在国王的档案里有一块干燥的泥板，上面有标记，写着你拥有这块田。于是，所有权不再是邻居之间的社区协议，而是由国王档案中的文件决定。这也意味着你可以不用邻居的同意就把土地卖给陌生人，只要你把那块干泥板交给他们，换取黄金或白银等东西。

这确实是个巨大变化。看似简单的发明，比如用木棍在泥巴上画一些记号，竟然带来了如此巨大的影响。比如，十年后，拥有一所房子可能意味着某个人工智能说你拥有它。如果这个人工智能突然说你不再拥有它，不管是什么原因，即使你都不清楚原因，这房子就不再是你的了。

主持人：那个泥板的记号也是书面语言的发明之一。我想到的是，语言不仅仅是我们通常认为的对话形式，而是密码，像银行密码。我们的社会其实是由语言支撑的。而人工智能首先掌握的技能之一就是大型语言模型的能力。这让我思考我生活中那些由语言维系的东西，甚至我的人际关系。因为我的朋友们住在迪拜、美国、墨西哥，我们通过语言保持联系。正如你所说，民主也是通过语言维系的。

尤瓦尔·赫拉利：这确实出乎意料。五年前，人们说人工智能会掌握自动驾驶等技能，但却认为语言太复杂了，是人类的杰作，人工智能永远不可能掌握语言。然后ChatGPT出现了，它的语言生成能力让我惊叹不已，虽然并不完美，但它确实能理解语义并将词汇串联成句，形成连贯的文本。这非常了不起。这确实是基础中的基础。我用语言给银行下达指令。如果人工智能能生成文本、音频和图像，那么我该如何与银行交流，确保不被人工智能操控呢？

主持人：不过，有意思的是，大多数人本来就不喜欢和银行打交道，比如打电话给银行，等待接线员。所以，人们会很愿意让人工智能代替他们处理这些事情。如果我能信任人工智能的话，我当然会这么做。

尤瓦尔·赫拉利：关键问题在于，银行之所以让我亲自打电话，是为了确保真的是我，而不是其他人假装成我来指示银行把钱转到开曼群岛。那么，如何确保是我本人？

金融体系几千年来的核心问题就是信任。所有的金融工具，本质上都是信任机制。货币本身只是信任的象征，而不是金银纸币的价值。金融的绝大多数发明，最终都是语言和符号的发明。

而现在，人工智能可能会开始创造新的金融工具，因为它已经掌握了语言。正如你所说，我们现在通过语言与全世界的朋友保持联系。2010年代，算法之间为人类注意力展开了一场大战，但还有比注意力更强大的东西，那就是亲密关系。如果你真的想影响别人，亲密关系比注意力更有效。

主持人：在这个语境下，你如何定义亲密关系呢？

尤瓦尔·赫拉利：亲密关系是指你和某人之间的长期联系，你了解这个人，信任他，甚至爱他或关心他。直到今天，伪造亲密关系和大规模制造亲密关系是不可能的。你不会和领导者产生亲密感。而通过人工智能，历史上第一次，至少在理论上，可能会大规模制造亲密关系。可能有一些人工智能，甚至可能是为某些政府工作，假装与我们建立亲密关系，让我们难以分辨这到底是人类还是机器人。

主持人：我和许多关系专家以及各种人士讨论过人类亲密关系的衰退、孤独感的增加，以及我们社会变得越来越“无性”的现象。在人类之间亲密关系和联系减少的同时，人工亲密的可能性却在上升，这就引发了一个问题：在一个比以往任何时候都孤独、联系越来越少的世界里，未来会是什么样子？尽管如此，马斯洛所说的那种爱的需求和归属感依然存在。这或许也是我们看到两极分化加剧的原因，因为人们在拼命寻找归属感，而算法却在不断强化我的“回声室”。

尤瓦尔·赫拉利：是的，但我不知道这会如何结束。我不认为这是命中注定的，一切取决于我们作为个体和社会所做的决定。当然，这项技术也能为我们带来美好的事物。人工智能与我们进行对话的能力，理解我们情绪的能力，可能意味着我们将拥有许多人工智能教师、医生和治疗师，他们能为我们提供前所未有的优质医疗服务和教育服务。比如，不再是40个孩子挤在一个教室里，老师无法顾及每个孩子的个性化需求。你可以拥有一个只关注你的人工智能导师，提供无法比拟的教育质量。

主持人：我在读你的书时也想到过另一个问题。我们现在有更多的信息，接触信息的渠道也更多，按理说这应该让世界更加接近真相，减少阴谋论，增加共识。但事实似乎并非如此。

尤瓦尔·赫拉利：你需要结合两者的优势。对于许多课程来说，人工智能导师会更好。你甚至不需要坐在屏幕前，可以去公园，边走边听关于生态学的课程。但你仍然需要孩子们在课间和其他孩子一起玩，因为学校里最重要的课程往往不是在课堂上学到的，而是在课间学到的。这部分不应该被自动化。你需要让一大群孩子在有人工监督的环境下进行互动。

主持人：我在读你的书时也想到过另一个问题。我们现在有更多的信息，接触信息的渠道也更多，按理说这应该让世界更加接近真相，减少阴谋论，增加共识。但事实似乎并非如此。

尤瓦尔·赫拉利：完全不是这样。世界上的大多数信息都是垃圾。

最好的比喻是把它看作食物。曾几何时，比如一个世纪前，很多国家的食物是稀缺的，人们只能吃到什么就吃什么，尤其是高脂肪和糖分的食物。当时，人们认为食物越多越好。如果你问你的曾祖母，她会告诉你，多吃食物总是好事。但当我们进入食物充足的时代时，出现了这些工业化、加工过的食品，里面充满了脂肪、糖和盐，这显然对我们有害。所以，更多的食物并不总是好事，尤其是这些垃圾食品。

信息也是如此。曾经信息是稀缺的，过去如果你能拿到一本书，你会全神贯注地阅读它，因为没有别的可读。而现在，信息过剩，我们被信息淹没了，其中大部分是垃圾信息，充满了贪婪、愤怒和恐惧，因为这场注意力争夺战的存在，这对我们没有好处。

我们基本上需要进行一场“信息节食”。首先要意识到，并不是说获取更多信息对我们总是有益的。我们需要有限的信息，并且实际上需要更多时间来消化这些信息。当然，我们也必须小心我们接收的信息质量，因为现在充斥着大量的垃圾信息。

一个基本的误解是，人们认为信息与真理之间有必然联系。大家认为，获取大量信息就像获取真理的原材料，多信息意味着更多知识。但事实并非如此，因为即使在自然界，大多数信息也与真理无关。

信息的基本功能在历史上、甚至在生物学上都是用来连接的。信息的目的是将人们连接在一起。当你研究历史时，你会发现，实际上连接人们最简单的方式往往不是通过真理。真理既昂贵又稀有，通常还很复杂，甚至令人不适或痛苦。