《智人之上》书评-促成合作的神话与官僚将分别如何被AI改造

科技   2024-09-16 11:04   广东  

自从18年之后,尤瓦尔赫拉利沉寂了6年,今年推出的《智人之上》一书国内外同步发行,因担心该书涉及的内容敏感,国内的翻译会有所删改,故而先读的是英文版,之后翻了下中文版,所幸基本没有删除原版内容。

这本书继承了《人类简史》中对历史发展的描述,即人类的超能力来自合作,而合作依赖讲故事。而在新书《Nexus》(英文标题直接翻译为:枢纽-一个关于信息网络的简要历史,从石器时代到AI)。英文版的标题更能反映全书的内容,但显然不利于销售,因此出版商起了《智人之上》这样带有暗示性,甚至能唤起我们焦虑的标题,也就不足为奇。

《智人之上》这本书最有创新的地方,在于将故事分为了两类,一类是神话,一类是官僚。神话是文化中共享的故事,它们帮助人们理解世界,并在大规模群体中建立共同的信仰和价值观。神话故事通常包含了关于神、英雄、宇宙起源和道德规范的叙述,它们为社会提供了一种凝聚力和身份认同。在书中,赫拉利提到,神话故事是人类早期用来组织社会和解释周围世界的主要方式。例如,宗教故事、民族创世神话等,都是将人们联结在一起的强大工具。

而另一种故事是关于如何组织和管理社会资源的系统,可称为官僚制度(Bureaucracy),它依赖于规则、等级制度和行政程序。官僚制度通过书面记录、文件和规章制度来管理信息,确保信息的准确性和可追溯性。在书中,赫拉利讨论了官僚制度如何使人类能够构建复杂的社会结构,如国家和帝国。官僚制度通过标准化流程和记录保存,提高了管理效率和决策的可预测性。

神话和官僚在当下社会对应不同的职业,然而这里的分别也不是一成不变的。例如电子游戏生产商,大多数时候这是一个隶属于官僚制度的职业,会采取类似保险精算的数学模型来从玩家那里榨取注意力及金钱,然而若是做到“黑神话”这样能传播到海外的现象级作品,又成为了服务于“神话“这一体系的极少数。再例如刘慈欣当前创作的最后一篇小说《黄金原野》中,主人公不顾一切地飞到远方,以此唤醒地球上人们对太空的渴望,其结局的出人意料,就在于其将一个本该是官僚系统计算成本收益的故事,变成了一个传说。

《智人之上》涉及AI的第三部分,来自作者和扎克伯格的谈话,其中的大多观点都在其它著作中出现。在这样一个人们相比2014年《人类简史》出版时,对未来更加悲观,也更担心自己生计的时代,因此在当下谈论国际不如谈民生。根据《智人之上》提出的神话和官僚的分类,当代所有的职业,可以看成是一个由三原色调和而成的画卷,分析一个职业在AI时代的未来,也可以看构成其的三部分(直接创造财富,通过官僚或神话促成合作,或者说是直接干活的,通过ppt向上汇报向下传达的以及画饼塑造价值观的)将如何被技术改变。

从前,人们主要担心那些直接创造财富的职位,例如流水线上的工人会被机械取代,事实也的确是这样。然而大模型的出现,让那些通过讲述神话的岗位变得不那么独属于人类,例如心理咨询,广告制作等需要考虑人类情绪的职位,由于大模型能够通过预测语言这种交流媒介,变得不那么黑箱,然而由于人类的信任,依赖神话的职业受到的冲击并没有这么严重。而最近官方下场做的agent-GPT-o1,则能够执行复杂的推理问题,当下的评测是拿各种弱智吧的问题去让它出丑。然而这类模型的引入,将会对那些隶属于官僚系统的职业,例如财务出纳,律师法官等产生冲击。当幻觉能降低到人类水平之下后,资本对这些职位的自动化,将会如同机械臂取代流水线工人那样不可替代。

除了职位被取代带来的焦虑,《智人之上》一书中还有一个(虚构)例子很形象地说明了由于技术是如何由于其不透明而引发受技术影响的普通人担心的。在客户申请银行贷款时,银行发行:允许智能手机电量低于25%的客户,还款可能性会降低0.5%。因此,算法已为该客户的总分扣50分。这里算法看似给出了其判断的解释,然而人们还是会这样遥远的相关性感到自身受到了不公平的对待,尤其担心这样的不公平影响了自己的生计,例如前几天由于超过45岁的外卖员过劳猝死,算法之后不给45岁的外卖员派单时。

针对神话这一促成人类合作的体系如何被技术影响,《智人之上》一书也有涉及。其中讲到算法在改变人类间流传的故事,好的一面,最近的Science封面讲述了大模型能够帮助那些陷入阴谋论的人走出自己的认知局限,然而同样的能力也可以被用于让原本三观一致人们分裂为无法交流的数个群体。

  在《智人之上》的后记中,作者对比当下与其在16年其完成《未来简史》写作时,人们谈论AI所带来的影响,尤其是负面影响时这样写到:“2016年,这些对话还只像是对某个遥远未来的一场哲学上的轻松猜测;2024年,对话的强度已经像是在急诊室里人命关天了”。读到这里,笔者心有戚戚焉,人们对AI越焦虑,就越容易拿历史中出现的事情去作为锚点,例如认为AI的进步如同印刷机的出现,或者如同工业革命。但若是只是简单类比,那就是刻舟求剑,关键是要从历史所带来的更大框架中找出不变的部分,只有这样才能找到思考的起点。

正如《智人之上》这本书英文版书名的关键词信息网络,信息最重要的作用就是编织新的网络,而不是呈现既有现实。此前站在枢纽位置的是人,如今变成了人机混合。然而技术无法改变信息网络的本质,这也是《智人之上》这本书能够给读者留下的最重要两点启发:

1,信息并不等于真理,信息的主要任务在于联结,而非呈现现实,而且史上的信息网络往往比较重视秩序而非真理。(参考最近的美国大选辩论)由于人类的信息网络重秩序而轻真理,因此往往带来大量的力量,却没带来多少智慧。我们并没有理由期待人工智能一定能够打破过去的模式,并更为偏向真理。

2,由于人类其实是想知道真理的,因此还是有机会通过交谈、承认错误、接受新想法以及修改我们所相信的故事,至少让部分的冲突得以和平解决。想要打造更有智慧的网络,需要的只是我们放下天真与民粹的信息观,摒弃想要绝对正确不犯错的幻想,并且认真投入一项困难但平凡无奇的工作:为各种机构制度打造强大的自我修正机制。

更多阅读

或许,人类只有改造自身才能活下去-读未来简史

虚幻即现实 -人类简史教会我们的

从能量说起-读《人类简史》




混沌巡洋舰
人工智能已经在迅速的改变我们的世界,当它与脑科学结合,这种改变将最终达到人本身。混沌巡洋舰站立在这两个未来的塑造者之间, 讨论这场正在发生的变革对每个行业和个体的影响。我已委托“维权骑士”为我的文章进行维权行动。
 最新文章