《明镜》
《明镜》：赫拉利先生，人类是否已经失去了对世界的控制？
赫拉利：还没有。但人工智能（AI）将从根本上改变我们在这个星球上的生活。我们必须认识到这项发明的力量与潜力。如果我们人类稍有不慎，它就会带来巨大的灾难。
人类世界正显示出其弱点。我们看到乌克兰和中东的战争，以及在应对气候危机时的束手无策。超级智能系统难道不是我们最后的手段吗？
人工智能与人类历史上以前的技术不同。它不同于车轮、文字、印刷机或原子弹。那些都是人们可以自己决定使用的工具。但人工智能是一个能够独立做出决策并发明新想法的行动者。它有潜力为我们的世界带来难以想象的变化。
从人类历史的视角而言，您会如何描述当下这一时刻？
这是革命时代的第一步。几千年来，历史一直是生物和文化之间的相互作用。一切都围绕着这两股力量展开。在饥饿、性、睡眠和基本情感方面，人类在生物学上与其他动物没有什么不同，但我们能够创造一种必须与生物学相互作用的复杂文化。现在，我们在这一历史性的组合中加入了第三种成分。
这意味着什么？
人工智能是一种非生物行为体，但它可以创造文化。我指的不仅仅是艺术、文字、音乐或报纸文章，而是新的货币体系、新材料、新科学。在我们决定这是好还是坏之前，我们需要停下来思考一下它的严重性。这就好像外星人从轨道上来了一样。如果我们不知道他们如何做出决定，我们就不会轻易给他们控制权。人工智能具备奴役人类的潜力。
难道历史没有足够证明，新的信息技术可以带给人类更多好处吗？如果没有印刷术，现代科学就不可能兴起。
约翰内斯·古腾堡（Johannes Gutenberg）在1450年左右发明了印刷术。但是像莱布尼茨这样的哲学家或像牛顿这样的物理学家以及启蒙运动的基础只直到1650年才出现。其间有200年的宗教战争和猎巫活动。当然也有像哥白尼和伽利略这样的亮点，但这一时期最畅销的书是《女巫之锤》。这是一本关于如何识别女巫并“正确”折磨她们的残酷指南。
然后呢？
人工智能的发展就像一台印刷机。它可以印刷好东西和坏东西。问题是，我们该如何创建可以依赖的机构，从而避免经历200年的黑暗。
为什么没有全球性的人工智能立法来控制危险？
这是因为全球范围内正在进行的竞赛。我前不久在硅谷，那里的人们很清楚其中的一些危险。那里的工程师说：我们想放慢开发速度，但那样就会让其他的国家赢。这是一方面。而另一方面，监管人工智能也比监管核武器等要复杂得多。
这是为何？
核武器的目的是炸毁城市。说起来似乎很容易：我们必须限制它们的扩散。对于人工智能而言，你必须在机遇和风险之间取得平衡。更重要的是，我们谈论的不是一台巨大的超级计算机，而是数以百万计的参与者。
在硅谷也有人说，人工智能甚至可以解决气候问题。
人工智的确有潜力解决气候问题。但前提是我们必须正确地使用它。从短期来看，它会让问题变得更糟。人工智能的发展需要耗费大量能源。据说美国未来所有电力的10%到20%将完全用于人工智能的开发。
您是一位历史学家，而不是未来学家。对历史的研究是否让您变得加悲观？
赫拉利：可能吧。作为一名历史学家，我对革命持怀疑态度。发明的历史表明，新技术很少是邪恶的，但问题在于缺乏经验。适应过程中总会有危机潜伏。特别是当一个社会的经济和社会结构在短时间内发生变化时，以工业化为例。
它怎么了？
当蒸汽机、火车和电力被发明时，它们并不是邪恶的发明。但在19世纪，没有人知道如何建设一个工业社会。他们怎么可能知道？以前从未发生过这种情况。于是，人们开始尝试。结果是工人的贫困化和帝国主义的伟大试验。人们认为，建立工业社会的唯一途径就是建立庞大的帝国。工业社会需要原材料、钢铁和煤炭。它需要市场来销售产品。人们认为，如果我们不控制原材料和市场，我们的竞争对手就能够勒索或摧毁我们。我们必须尽一切努力防止人工智能领域出现此类历史性错误。
您想阻止人工智能的进一步发展吗？
不是。首先，它不现实，其次，这也不可取。人工智能对人类有着巨大与积极的潜力。无论是在医疗保健、教育方面，还是在保护人们免受意外或暴力侵害方面，都是如此。
当您开始写这本书的时候，全世界的情况都不一样了。自10月7日哈马斯袭击以色列以来，您的个人生活发生了哪些变化？
当我在2018年开始写这本书时，我们还生活在一个不同的时代。然而，对我来说，最大的冲击并不是10月7日。而是在之前几个月发生的事情: 以色列政府的反民主式夺权。
内塔尼亚胡领导下的政府剥夺了以色列最高法院的部分权力，从而大大削弱了以色列的三权分立。
以色列的民主制度目前正在崩溃。法治、言论自由、法院——一切都岌岌可危。政府正试图通过最高法院来消除其唯一的纠正措施，并且即将取得胜利。
听起来您似乎更害怕围绕内塔尼亚胡周边的小圈子，而不是与伊朗的核战争？
来自外部的威胁是非常真实和危险的，但以色列可以应对它们，因为它的军事实力强大。但在我看来，来自内部的危险更大。以色列很可能会赢得与哈马斯、真主党和伊朗的战争，但此后将不再是一个民主国家。
长期以来，您一直尖锐批评本杰明·内塔尼亚胡，他正在对黎巴嫩真主党采取军事行动。他这样做不是让以色列更安全了吗？
对真主党的打击是安全部队的成功，而不是内塔尼亚胡个人的成功。
但总理不可能亲自上战场打仗。
内塔尼亚胡拒绝为10月7日的灾难承担任何责任。他一直是那种顺利时会大肆庆祝，但失误发生时就会销声匿迹的政治家。当然，你不能让首相为指挥官个人的每一个错误决定负责，但他必须确定优先事项。
您认为内塔尼亚胡犯了哪些错误？
2022年上次大选后，他本可以集中精力对付哈马斯，但他专注于剥夺最高法院的权力。由于示威游行，以色列陷入了长达数月的全面混乱。他的军队首领们一再警告他，他正在将以色列置于危险之中并分裂国家。但内塔尼亚胡反而解雇了国防部长。他对10月7日以及随后的战争负有主要责任。
但内塔尼亚胡并没有迫使哈马斯攻击以色列。
他当然没有。哈马斯应对暴行负责。但以色列因为内塔尼亚胡而分心。战争开始后，有好几次机会可以达成临时停火，让人质离开加沙。但都被他拒绝了。因为他知道，如果停火，他的政府就会陷入困境，他将不得不承担自己的政治责任。这种情况目前正在撕裂以色列。战争时期最重要的是团结国家。但内塔尼亚胡是地球上最后一个能做到这一点的人。
战争如何才能结束？
这很难说，因为没有人知道政治计划是什么。以色列在战场上取得了巨大成功，但政府的工作是将军事成功转化为外交和政治成功。但内塔尼亚胡在击败伊朗、真主党和哈马斯后想做什么呢？他对此保持沉默。
人工智能能否为中东和平解决方案做出贡献？
我不会把中东冲突托付给人工智能。我们不能忘记，是人类在近几十年来为减少暴力做出了卓越的贡献。我们在21世纪初拥有有史以来最和平的国际秩序。其基本规则是：你不能仅仅因为你更强大而攻击一个国家并占领它。这曾是历史上的常态。
怎么说？
在历史其他时期，国家通常将高达50%的预算用于军队。21世纪初，这一数字下降到平均7%，而卫生预算则上升到10%。这在人类历史上是一项了不起的成就。
但这种情况并没有持续多久。
没错。人们认为这是理所当然的，医疗保健系统受到了侵蚀。我们如今正处于崩溃的边缘。与此同时，全世界的军费开支都在增加。俄罗斯最近公布了国家预算，将40%的资金用于军事。如果我们不阻止的话，这将成为世界的榜样。
这一切与人工智能有什么关系？
如果国际紧张局势加剧，我们将无法就遏制人工智能达成一致。这可能会加速人工智能革命并破坏世界稳定。它将改变军事力量平衡并产生巨大的经济冲击波。工业将完全消失，数亿人将失去工作。我们正面临着一场完美风暴。当我们必须解决人工智能和气候变化两大问题时，国际体系正陷入混乱。
在历史上，新的信息技术常常催生新的社会。如今，民粹主义者用人工智能生成的假新闻煽动情绪，而西方许多人现在认为民主是一种政府形式，其复杂的谈判过程变得越来越无效。人工智能会为D.C统治铺平道路吗？
我们生活在一个信息丰富的时代。然而，信息并不是知识，而往往是垃圾食品：宣传、假新闻和民粹主义。人工智能也不会告诉我们世界的真相，反而会创造出一个更加复杂的新世界。因此，当你考虑政治制度时，你应该选择一种能够自我适应和改变的制度。❖
信息出处
https://www.spiegel.de/geschichte/starhistoriker-yuval-harari-ki-hat-das-potenzial-uns-zu-versklaven-a-70587486-9be1-4c7c-a1ae-a83c743e74ef
