导读

2016年年底，AlphaGo刚击败李世石几个月，脸书算法正在缅甸煽动危险的种族冲突情绪，而我在那时候出版了《未来简史》。虽然我受的学术训练是中世纪与早期现代军事史，而且完全没有计算机科学相关的技术背景，但在那本书出版之后，却发现自己突然被称为人工智能专家。这仿佛打开了一扇大门，让我得以造访各地对人工智能有兴趣的科学家、企业家与各国领导人，也有幸一窥这场人工智能革命复杂的动态。

结果发现，面对这个新领域，我过去研究百年战争时的英国战略、研究三十年战争的绘画，竟也不是完全无关。事实上，正是过去的研究经历，让我能以独特的历史观点来看目前在人工智能实验室、企业会议室、军事总部与总统府里迅速发生的演变。

在过去8年间，我对人工智能有许多次公开或私下的讨论，特别是谈到人工智能带来的危险时，而且随着时间的推移，大家的语调也变得越来越急迫。2016年，这些对话还只像是对某个遥远未来的一场哲学上的轻松猜测；2024年，对话的强度已经像是在急诊室里人命关天了。

我既非政客，也非商人，更没有这些职业需要的天赋，但我确实相信，如果能够了解历史，就更能掌握如今的技术、经济与文化发展，更重要的是，有助于改变各种事物在政治上的优先级。政治在很大程度就是要排出优先级。我们是不是该削减医疗保健预算、增加国防开支？现在最迫切的安全威胁究竟是恐怖主义还是气候变化？我们是该把重点放在收复失去的传统领土，还是与邻国建立共同经济区？决定了优先级，就会影响公民怎么投票、商人关心什么议题以及政治人物想要有怎样的声誉。而我们排出的优先级，往往是由我们对历史的理解而决定的。   

虽然所谓的现实主义者会说历史叙事只是用来促进国家利益的宣传手法，但事实上，正是这些叙事先定义了何谓国家利益。比如，我在《智人之上》这本书中讨论克劳塞维茨战争论的时候就能看到，我们并没有什么合乎理性的方式来定义所谓的终极目标。我们永远不可能用数学或物理方程式，推导出俄罗斯、以色列、缅甸或任何其他国家的国家利益，国家利益永远都是出于某套历史叙事所认定的结果。

因此，世界各地的政治人物总会投入大量时间精力来重述历史叙事。2005年，时任联合国秘书长安南首次会见当时的缅甸领导人丹瑞大将。有人建议安南先发言，免得被丹瑞主导这场原定只有20分钟的对谈。但丹瑞先下手为强，花了将近一小时，滔滔不绝地讲述缅甸的历史，联合国秘书长几乎没有发言的机会。2011年5月，以色列总理内塔尼亚胡造

访白宫会见时任美国总统奥巴马的时候，也做了类似的事。在奥巴马简短的介绍发言之后，内塔尼亚胡就像把奥巴马当成学生，对他发表了一场关于以色列与犹太人历史的长篇演讲。有些人可能怀疑这些政治人物的动机，觉得丹瑞和内塔尼亚胡不在意什么历史事实，只是在故意歪曲历史，以达到某些政治目的。然而，这些政治目的本身，其实正是出于那些政治人物对历史的坚定信念。

我和政治人物及科技企业家谈人工智能的时候，重点常常会变成在谈历史。有些对话者对历史有着美好的想象，进而让他们对人工智能充满热情。在他们看来，只要有更多信息，肯定就会带来更多知识，他们也认为过去的每次信息革命都极大地造福于人类。印刷革命不就带来了科学革命吗？报纸与广播不就带来了现代民主的兴起吗？在他们看来，人工智能也是一样。也有一些对话者虽然对人工智能革命的看法较为悲观，但仍然觉得人类有望蒙混过关，就像过去混过工业革命一般。   

但这两种观点都没能让我感到安心。基于我在著作中所提的原因，我认为实在不应该把人工智能革命拿来与印刷革命及工业革命相提并论，特别是如果掌权者这么想，他们的历史观点就会影响他们所做的决策，而他们的决策又会影响我们的未来。这样的相提并论，不但低估了人工智能革命不同于过往革命的本质，也低估了过去革命带来的负面影响。印刷革命虽然直接带来各种科学发现，但也带来了猎巫行动与宗教战争；报纸与广播虽然有利于民主，但也遭到极权政权的滥用。至于工业革命，也带来了帝国主义与纳粹主义这样的灾难性实验。如果人工智能革命也带着人类走向类似的实验，我们真的确定自己能够再次蒙混过关吗？

我写《智人之上》这本书，是希望为人工智能革命提供一个比较准确的历史观点。这场革命目前才刚刚起步，而像这样重大的发展，实在很难即时有所评价。即使是现在，回顾21世纪10年代诸如AlphaGo的胜出、脸书在针对罗兴亚人冲突中的参与，也很难评估这些事件带来怎样的意义。至于21世纪20年代初期的事件，其意义就更加模糊了。但如果我们拓宽视野，看看人类的信息网络在过去几千年如何发展，我相信还是能让我们更了解今日发生的事情。

我们从历史学到的一个教训是，新信息技术的发明总是能促成重大的历史变革，因为信息最重要的作用就是编织新的网络，而不是呈现既有现实。

用泥版记录纳税，协助古代美索不达米亚建立了第一个城邦。将预言景象编成宗教经典，让新的宗教得以传播。报纸与电报将总统与公民的言论迅速传播，打开了通往大规模民主与大规模极权制度的大门。虽然通过这些信息技术来记录与传播的信息只是偶尔为真，常常是假，但总是能在越来越多的民众之间建立起新的联结。

对于历史上的革命，比如美索不达米亚第一批城邦的崛起、基督教的传播、美国独立战争、布尔什维克革命等，我们习惯于从政治、意识形态、经济等角度加以解读。如果想要看得更深，就应该把这些革命视为信息流动方式的革命。   

基督教与希腊多神教除了在许多神话与仪式上显然不同，在单一神圣经典以及负责解经的机构制度上也有着不同的重视程度。因此，虽然每座宙斯的神殿只是个别的实体，但每座基督教堂则是整个统一网络里的一个节点。基督信徒之间的信息流动，也就不同于宙斯信徒之间的信息流动。同样，斯大林时期的苏联与彼得大帝时期的俄国也会各自形成不同的信息网络。斯大林推行了许多前所未有的经济政策，而他之所以能做到这一点，是因为他所领导的这个极权网络中心收集了足够多的信息，能够对几亿人的生活进行微观管理。

技术的发展很少是别无选择的，同样的技术也能有非常不同的运用方式。然而，要是没有书籍与电报这些技术的发明，基督教会与斯大林式的机构就不可能存在。

这段历史教训应该很能鼓励我们在目前讨论政治的时候把更多重点放在人工智能革命上。由于人工智能是人类第一个能够自行做出决策并产生想法的科技，因此这项发明很有可能比过去电报、印刷机甚至文字的发明都更重要。相较于印刷机与羊皮纸卷只是为人类提供了新的联结方式，人工智能则是整个信息网络里成熟的正式成员，有自己的能动性。

未来几年，从军队到宗教，所有网络都会有数百万新的人工智能成员加入，有着与人类不同的资料处理方式。这些新成员所做的决策、所提出的想法，都可能让人类觉得非常陌生、意想不到。而加入了这么多非人类的行为者之后，必然也会让军队、宗教、市场与国家的形态发生改变。过去的政治、经济与社会体系可能崩溃，并被新的体系所取代。正因为此，人工智能实在是个极其紧迫的议题。就算有些人说自己不关心科技，或者认为最重要的政治问题应该是民主的存亡或是财富的公平分配，也躲不过人工智能的影响。

《智人之上》这本书之所以把人工智能与《圣经》这样的宗教经典相提并论，是因为目前正处在要将人工智能正典化的关键时刻。在亚大纳西主教这些教父决定把《提摩太前书》收进《圣经》文本集，而又排除了态度较为宽容的《保罗与特克拉行传》之后，就塑造了世界在接下来几千年的样貌。直到21世纪，都还有几十亿基督徒的世界观深受《提摩太前书》的厌女思维影响，而不了解特克拉有着较宽容的态度。这个局面就算到今天也很难扭转，因为当初的教父就是没在《圣经》中放入任何自我修正的机制。那些为人工智能写着最初的代码、为人工智能宝宝挑选训练用数据集的工程师，正扮演着现代的亚大纳西主教。随着人工智能的能力与权威不断增加，甚至成为一本能够自圆其说的宗教经典，现在工程师所做的决定就可能深深影响后世的发展。

研究历史，除了能够强调人工智能革命与相关决策的重要性，也能警告我们，对于信息网络与信息革命不要采取两种常见但错误的态度。

第一，我们必须小心太过天真乐观的信息观。信息并不等于真理，信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。比如税务记录、宗教经典、政治宣言和秘密警察档案，都能极有效地创造出强大的国家与教会，但这些国家与教会却可能有着非常扭曲的世界观，并且容易滥用权力。于是讽刺的是，有了更多信息，而有时更多的信息只会导致更多的迫害。

我们并没有理由期待人工智能一定能够打破过去的模式，并更为偏向真理。人工智能也有可能犯错。近年来，在缅甸、巴西、以色列等地发生的各种令人担心的事件中，我们能稍微得出的历史教训就是：如果缺乏强有力的自我修正机制，人工智能将有能力宣扬一些扭曲的世界观，助长肆无忌惮的权力滥用，以及煽动让人惊骇的新一轮猎巫行动。

同时，我们也应该避免过犹不及，变得太过犬儒主义而采取一种过于愤世嫉俗的观点。民粹主义常说权力是唯一的现实，认为一切人类互动都只是权力斗争，信息也只是用来打倒敌人的武器。但现实从来不是如此，也没有理由认为人工智能将会造成这样的情形。虽然比起真理，许多信息网络确实更重视秩序，但要是有哪个信息网络真的完全蔑视真理，也绝不可能存活下去。就个人而言，我们常常真的想知道真理，而不是只想追求权力。毕竟，谁不想知道生命的真理。即使是像西班牙宗教裁判所这样的机构，也会出现像阿隆索·德萨拉萨尔·弗里亚斯这种认真追寻真理的人，他没有让无辜的人送命，而是冒着自己的生命危险提醒我们，女巫只是存在于主体间的虚构概念。大多数人都不会觉得自己是单一的、只在乎权力的生物，那又为什么要觉得别人是这个样子呢？   

我们绝不应该认为人类的互动只是零和的权力斗争，在放下这种想法之后，我们不仅能够对过去有更全面、更细致的理解，也能对未来感觉更有希望，态度也更具建设性。如果权力是唯一的现实，要解决冲突也就只能靠暴力。民粹主义相信，人类的观点是由他们所拥有的特权来决定的，如果要改变人民的观点，首先就得剥夺他们的特权，通常也就是通过暴力。然而，由于人类其实是想知道真理的，因此还是有机会通过交谈、承认错误、接受新想法以及修改我们所相信的故事，至少让部分的冲突得以和平解决。这正是民主网络与科学机构制度的基本假设，也是我写《智人之上》本书写作的基本动机。

请让我们回到《智人之上》这本书一开头的问题：如果我们真有那么聪明，为什么还会走上自我毁灭的道路？

人类其实既是地球上最聪明的动物，也是地球上最愚蠢的动物。我们聪明到能够制造出核弹与超级智能算法，也愚蠢到一股脑地把这些东西都制造出来，甚至还没搞清楚自己能不能控制它们，说不定还会反受其害。我们到底为什么会这么做？人类的本性里是否有什么逼迫我们走上这条自我毁灭的道路？

我在这本书中提出，问题并不在于人类的本性，而在于人类的信息网络。由于人类的信息网络重秩序而轻真理，因此往往带来大量的力量，却没带来多少智慧。例如，纳粹德国创造出高效率的军事机器，却将之用来服务一套疯狂的神话谎言，结果导致大规模的苦难和数千万人的死亡，而且最终带来了纳粹德国的毁灭。   

当然，力量本身不是什么坏事。如果使用得当，力量也能用来行善。例如，现代文明就已经有能力预防饥荒、控制疫情、减轻飓风与地震等自然灾害的影响。一般来说，网络取得各种力量，就能更有效地应对外部威胁，但同时也会增加内部的危险。特别值得注意的是，随着网络越来越强大，原本只是内部虚构故事所造成的想象威胁，有可能会变得比真正的自然灾害更加危险。现代国家就算碰上干旱或雨水过多这种自然灾害，通常也能有所应对，避免公民面临大规模饥荒。但如果现代国家被某个人造的幻象所笼罩，就有可能落入一场纯属人祸的大规模饥荒。

因此，随着网络越来越强大，自我修正机制也会越来越必要。如果只是某个石器时代的部落或青铜时代的城邦，就算无法看出并修正自己犯的错误，潜在的损害也十分有限。大不了就是一座城市灭亡，幸存者到别的地方重起炉灶。即使是铁器时代的帝国，有了提比略或尼禄这样的统治者，受到偏执狂或精神病的困扰，也很少会真的出现灾难性后果。比如罗马帝国，虽然疯狂的皇帝实在不少，却还是能够撑过数个世纪，即使最后崩溃，人类文明也没有就此终结。然而，如果硅基时代的超级大国完全没有或只有薄弱的自我修正机制，那么它危及的可能是整个人类物种与无数其他生命形式的生存。在人工智能时代，人类就像是住在

卡普里岛庄园里的提比略，虽然掌握着巨大的权力，享受着罕有的奢华，却很容易被自己创造出来的事物所操纵，而且等我们意识到危险，可能为时已晚。

令人遗憾的是，虽然自我修正机制会深深左右人类的长期福祉，政客却有着削弱这些机制的动机。正如我在这本书中不断提到的，虽然削弱自我修正机制有许多坏处，却可能让人在政治上胜出。用这样的策略，就可能让21世纪的极权者取得巨大的权力，而如果以为得力于人工智能的极权政权尚未对人类文明造成严重破坏就自我毁灭了，这只能说是愚蠢的一厢情愿。就像丛林法则只是个神话谎言一样，认为历史总会走向正义也只是个神话谎言。历史的轨迹无比开放，可以弯向任何方向、走向任何地点。就算智人毁灭了自己，宇宙还是会运转如常。地球演化花了40亿年，才出现了一个拥有高度智能的猿类文明。如果人类灭亡，需要再演化上亿年，才会出现拥有高度智能的老鼠文明，这种事迟早会发生。宇宙就是这么有耐心。   

但还有一种更糟糕的状况。就我们目前所知，在整个宇宙，或许只有地球上的猿类、老鼠和其他有机动物是有意识的实体。我们现在已经创造出一种无意识但又极为强大的非人类智能。要是处理不当，人工智能不仅有可能消灭人类在地球上的主宰地位，更会灭掉这一点意识的星火，让宇宙变成一个彻底黑暗的王国。我们有责任避免这种情况发生。

好消息是，只要我们放下自满、不要绝望，就能够打造有制衡机制的信息网络，不让权力失控。要做到这一点，并不需要发明什么其他的奇迹技术，也不需要想出什么过去世代都想不到的天才主意。想要打造更有智慧的网络，需要的只是我们放下天真与民粹的信息观，摒弃想要绝对正确不犯错的幻想，并且认真投入一项困难但平凡无奇的工作：为各种机构制度打造强大的自我修正机制。这或许就是本书想提供的最重要的启示。

这种智慧的源头，甚至比人类历史还久远，是来自最基本的有机生命的基础。最早的生物并不是由什么绝对正确的天才或神祇所创，而是经过复杂的反复试错而产生的。40亿年来，经过越来越复杂的突变与自我修正机制，地球上演化出了树木、恐龙、丛林，并最终演化出人类。我们现在召唤出了一种人类难以理解的非人类、非生物智能，它有可能逃脱人类的控制，除了可能危及人类物种的存亡，更有可能将无数其他生命形式也卷入危险之中。

我们所有人在未来几年所做的决定，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。

编辑 | 智慧云董事会，定位于"高成长企业的外部董事会"，致力于提升企业家领导力，助力企业高速成长。