智人之上
从石器时代到AI时代的信息网络简史
作者：尤瓦尔·赫拉利[以]
译者：林俊宏
出版时间：2024年9月5日
出版社：中信出版社
推荐指数：★★★★★
我们先看一则有关人工智能（AI）的消息，9月1日，由中共中央宣传部、中央广播电视总台、教育部联合主办的大型公益节目2024年《开学第一课》播出，北京大学智能学院、人工智能研究院院长、全球著名计算机视觉专家、人工智能专家朱松纯教授，携全球首个通用智能人——小女孩(Little Girl)“通通”亮相节目现场。在这堂全国中小学生共同学习的课上展示了通用人工智能的创新发展成果，为全国青少年打开了一扇瞭望智能时代的心灵之窗。“通通”和大家平常见到的智能音响、智能驾驶等人工智能有所不同，后者往往是完成某些事先设定的有限任务，而“通通”是一个有“心”的人工智能，她所做的事情不受人为控制，而是由自己“心”里的价值所驱动，在随机的场景中，“通通”会自主地捡起地上的玩具放进收纳盒中，拿起抹布擦去地上的污渍……通过一系列的行为，可以发现“干净”是她的重要价值体系之一。这一切行为是“通通”在一百多个高度仿真的数字场景中通过不断学习实现的技能、知识和价值的持续成长。
日常生活中，它作为智能助手，不仅协助我们管理日程、解答疑惑，还逐渐渗透至情感陪伴与个性化服务的领域；
自动驾驶方面，技术飞速发展，预示着未来交通出行的彻底变革，将极大地提升道路安全与出行效率；
医疗领域，AI的应用从辅助医疗诊断，提高疾病识别的准确性与早期发现率，进一步拓展至药物研发、基因编辑等前沿科技，加速了医疗科学的进步与新药问世的速度；
金融风控方面，AI以其强大的数据分析与预测能力，有效识别潜在风险，优化信贷决策，保障了金融体系的稳定与安全；
智能制造方面，其中AI驱动的生产线实现了高度的自动化与智能化，提高了生产效率与产品质量；
教育领域，AI个性化教学平台的兴起，为每位学生量身定制学习计划，促进了教育资源的均衡分配与学习成效的显著提升；
在环境保护与气候治理方面，AI通过监测分析气候数据、优化资源利用方案，为应对全球气候变化提供了有力支持。
《智人之上》兼具哲学深度和历史广度，关于人工智能的人文著作，这本书不容错过。
尤瓦尔·赫拉利
（Yuval Noah Harari）
全名尤瓦尔·诺亚·赫拉利，历史学家、哲学家、全球畅销书作家。1976年生于以色列海法，2002年获得牛津大学历史学博士学位，现任耶路撒冷希伯来大学历史系教授、剑桥大学存在风险研究中心特聘研究员。
以下内容摘自于本书序言中“前方的道路”一节。略有删减。
序言
第一章 信息是什么? 第二章 故事:无限的联结 第三章 文件:纸老虎也会咬人 第四章 错误:绝对正确是一种幻想 第五章 抉择:民主与极权制度简史
第六章 新成员:与众不同的计算机 第七章 永不停歇:网络永远持续运行 第八章 可能出错:谬误百出的网络
第九章 民主制度:我们还能对话吗? 第十章 极权主义:所有力量归于算法? 第十一章 硅幕:全球帝国还是全球分裂?
信息有时候会呈现现实，有时候并非呈现现实。但不论如何，信息都会联结形成网络，而这才是信息真正的基本定义特征。所以，要审视信息在历史上的作用，虽然有时候也值得去问问“这条信息在多大程度上反映了现实?这是真的还是假的?”，但更关键的问题通常是“这条信息在多大程度上联结了人群?这条信息创造出了什么新的网络?”。
智人(人类把自己这个物种命名为智人——有智慧的人类)在有了故事之后，又有了另一种新的联结：人与故事的联结从此之后，为了合作，智人之间并不一定需要真的彼此了解，只需要知道同一个故事就行。同一个故事能够说给几十亿人听，就像一个有无限量插座的中心枢纽，能让无数人插入建立联结。
今日的网红名人有些坐拥数亿粉丝，每天通过社交媒体和粉丝互动，但其实几乎没什么真正的个人联结。社交媒体账号常常由一个专业团队经营，发出的每张照片、每一句话都经过专业的制作与策划，从而打造出如今所谓的品牌。
“品牌”其实就是一种特定类型的故事。要给产品打造一个品牌，就意味着讲述一个关于该产品的故事，故事和产品真正的特性可能根本没什么关系，但就是能让消费者把故事和产品联系起来。这就是品牌营造。
事实上，大规模人类群体之间的身份认同本身就是由故事定义的，所以这些群体之间的所有关系，当然也都是由故事塑造的。
为了追求生存与繁荣，每个人类信息网络都需要同时做到两件事，即除了要发现真相，还得创造秩序。
拥有大量信息并不能保证得到真相，也无法保证能维持秩序。使用信息时既要找出真相又要维持秩序，这是一个极为困难的过程，更糟糕的是，这两个方面还常常互相矛盾，毕竟，凭借虚构的故事通常更容易维持秩序。
回顾人类信息网络的历史会发现，这并不是一场进步的游行，而是像在走钢丝，试图在真相与秩序之间取得平衡。在21世纪，我们寻找正确平衡的能力并没比石器时代的祖先高明到哪里。
文件、档案、表格、许可、法规，以及其他各种官僚程序改变了信息在社会上流动的方式，也改变了权力运作的方式。这样一来，想再了解权力也变得更加困难了。在办公室与档案库紧闭的大门后面，究竟发生了什么？一些不知名的官员，在这些地方分析整理着成堆的文件，最后大笔一挥、鼠标一点，就决定了我们的命运。
下一波信息革命正蓄势待发，而这将是民主与极权新一轮竞争的基础。计算机、互联网、智能手机、社群媒体与人工智能，都对民主提出了新的挑战。现在能发声的不只有更多过去被剥夺权利的群体，还包括所有联结网络的人甚至是非人类个体。到21世纪20年代，民主政体再次迎来与过去类似的挑战：如何在维系社会秩序的前提下，让如洪水般涌来的新声音加入公共对话。
随着人类迈向21世纪的第二个25年，一项重大问题就是民主政权与极权政权如何面对目前信息革命带来的威胁与契机。这些新的科学技术，究竟会让某种政权胜出，还是会让世界再次分裂?而隔开双方的不再是铁幕，而是一道硅幕。
如今智能机器崛起，能够自己做决定、自己创造新的想法。这也是史上第一次，权力从人类转移到其他物种手中。
计算机正在成为一种主动行为者，它能够摆脱人类的控制，超越人类的认知，主动塑造社会、历史与文化。
在争夺民众注意力的网络大战中，算法成了决定胜负的因素。算法能够选择让哪些内容出现在用户动态消息的顶端、推广哪些内容。
这些自上而下的推荐就可以大大左右民众的想法。
随着计算机的智能化水平越来越高，最终也可能发展出意识，拥有某种主观体验。反之，计算机的智能也可能变得远高于人类，却永远不会发展出任何情感。由于我们连碳基生命形式是如何产生意识的都还不了解，因此实在无法预测非生物实体究竟是否会产生意识。有可能意识这件事从头到尾就与有机生化没什么本质上的联系，那么或许不久之后就会出现有意识的计算机。也有可能有几条不同的途径都能发展出超智能，其中只有一部分涉及意识的觉醒。就像飞机不用长出羽毛，就已经能飞得比鸟类更快；计算机也有可能无须发展出意识，就比人类更懂得如何解决问题。就是说，计算机究竟会不会发展出意识，就眼前的问题而言其实并不重要。如果要实现“将用户参与度最大化“这样的目标，并做出有助于实现这个目标的决策，实际并不需要有意识，只要有智能就足够了。
能够自己追求目标、自行做出决策的计算机出现之后，人类信息网络的基本结构也就改变了。
21世纪20年代初计算机已经能够分析、调整和生成语言，展现出非凡的能力，不论这里的语言指的是文字、声音、图像还是编码符号。计算机掌握了这样的语言能力之后，就像得到了一把能够打开我们所有机构(从银行到寺庙或教堂)大门的万能钥匙。人类使用语言，除了用来创造法律条规或金融工具，也用来创造艺术、科学、国家与宗教。如果到某一天，某个非人类的、高深莫测的机器完全了解如何以远超人类的效率来运用人类的弱点、偏见与癖好，而且也能创作各种悠扬旋律科学理论、技术工具、政治宣言，甚至宗教神话，这样的世界对生活在其中的人类而言会意味着什么?
计算机掌握了语言之后，甚至还能更进一步。通过与人类交谈互动，计算机可以与人类建立亲密关系，并用这种亲密的力量来影响人类。为了培养出这种“虚假的亲密关系”，计算机并不需要演化出任何自己的感受只需要让我们觉得对它们有情感依恋就行了。
随着人工智能的不断发展，它已经变得越来越不人工（也就是不依赖人类来设计），而变得越来越高深莫测，难以看透。还应该指出的是大家在定义、评价人工智能的时候，常常会以“人类水平的智能”作为指标；对于人工智能什么时候才能达到这种水平，也是众说纷纭。这项指标本身也让人十分困惑。这就像要定义、评价飞机的时候，用“鸟类飞行水平”作为指标一样。人工智能演化的目标并不是人类水准的智能，而是另一种完全不同类型的智能。
现在许多活动都是（通过智能手机）在线上完成的，因此网络也更容易知道我们在做些什么、说些什么。我们成了自己的线人，把自己的原始数据提供给了网络。现在就算是不用智能手机，也几乎逃脱不了某些摄像头、麦克风或追踪设备的监控，不管是求职、买票还是看病，甚至只是走在路上，都常常需要和计算机网络互动。目前大多数人类活动都是通过计算机网络来联结的，几乎所有金融、社会或政治交易都离不开计算机。
隐私的末日
形形色色的监控
还有一种监控网络更是把这种“评分逻辑”发挥到极致，这就是社会信用体系，其目标是给人们的所有事情都打上分数，而得出的总分也会影响一个人的所有事情。对于社会信用体系，我们也可以把它视为一种新型货币制度。
人类本来就一直受到声誉市场的控制，被约束着要遵守当时的社会规范。在大多数社会，人类甚至宁可丢钱也不想丢脸。被钱逼到自杀的人数要远远小于被羞耻自责逼上绝路的人数。就算有些人因为被开除或企业破产而决定自杀，真正让他们踏出最后那一步的因素通常也不是经济困难本身，而是社会羞辱。
社会信用算法加上无处不在的监控技术，就有可能整合一切现有的地位竞争，合并成一场永无止境的比拼。即使已经回到家里，或者想要好好享受一场假期，人们也得万般注意自己的一言一行，就好像是在数百万人面前登台演出一般。这可能会形成一种极度紧张的生活方式，破坏人类的幸福，影响社会的运转。如果数字官僚用这种苛刻的点数制度来时时刻刻监控每个人，目前正在崛起的这种声誉市场就有可能抹杀人类的隐私，并对人类形成远比货币市场更令人窒息的控制。
计算机形成的网络能永远开机运行。因此，计算机正逼着人类走向一种新的生活方式：永远连线，永远受到监控。在某些情况下(比如医疗保健)这或许是件好事：但在其他情况下(比如极权国家的公民)，这或许就是一场灾难。而且，就算网络本身是良性的，仅是它永远“开机”，就可能对人类这种生物实体不利，因为这等于剥夺了人类断开连接、好好放松的机会。要是生物永远没有休息的机会，最后必然是崩溃而亡。但我们又怎么可能让永不停歇的网络走慢一点，好让我们休息一下呢?
我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点儿休息的时间，更是为了有机会修正网络里累积的错误。
“点赞”的独裁
我们已经到了一个历史转折点:当下历史的重大进程，有一部分是由非人类智能的决定推动的。正因如此，计算机网络的易错性才变得如此危险。计算机犯错原本不算什么，但当计算机成了历史推动者时，这些错误就可能带来灾难。
想让天平往有利于真理的方向倾斜，网络就必须发展并维持强大的自我修正机制，让说真话的人得到奖励。自我修正机制需要付出相当大的代价，但要是真想得到真理，这是必要的代价。
计算机对目前的国际体系还有两大挑战。第一，由于计算机让信息与权力更容易集中于单一中央枢纽，人类可能进入一个新的帝国时代。整个世界就这样落入几个帝国(甚至是单一帝国)之手，而且控制的强度远高于当初的大英帝国。第二，一道新的硅幕可能让人类分裂，使之分属于敌对的数字帝国。随着每个政权对于人工智能一致性问题独裁者困境与其他技术难题提出了不同的答案，这就可能各自创造出独立而又非常不同的计算机网络。在不同的网络(以及这些网络所控制的人类)之间，互动的难度将越来越高。每个网络的生活经验与世界观都大异其趣，于是几乎无法沟通，也难以达成共识。
世界如果由不透明的硅幕隔成许多敌对的帝国，也将难以约束人工智能爆炸性的威力。
在人工智能时代，站在食物链顶端的很可能是人工智能。
我无法预测人们在未来会做出怎样的决定，但身为历史学者，我确实相信有改变的可能。历史让我们学到的一大重点就是许多我们以为自然而永恒的事物，其实是人为且多变的。
在我们了解了冲突绝非必然之后，要认识到我们每个人都背负了重大的责任，需要做出正确的选择。如果人类文明被冲突毁灭，人类不能拿什么自然法则或非人类科技来当借口。同时这也意味着，只要我们努力，就能创造一个更美好的世界。这种观点绝非天真，而是无比现实。
现在所有的旧东西都曾经无比新颖。历史唯一不变的，就是改变。
▶️書將旨在打造一个高质量的社科图书信息分享平台，我们不做任何商业营销和商业推广，但会帮助正规出版机构推荐高质量的社科图书和相关优惠促销活动。
▶️書將推荐书目，有“新书分享”字样，即为有电子版。但我们电子版资源不做任何商业买卖，严格禁止一切商业机构和商业企图行为，仅免费无条件分享“学术匠”长期忠诚读者、进阶群群群友或愿意转发推文获28个赞以上的读者。
▶️書將公号从即日起（2024年5月1日），开始建立专门的图书分享社群，我们欢迎所有的学术界朋友入群。入群方式为文末图片扫码或添加小编微信（XueShuJiang001）。入群申请需说明“图书分享群+姓名+学校/单位+学历/职称”。
▶️書將的所有非原创内容均转载于网络公开的非原创内容，我们只做精品图书信息的搬运工，不做深加工，本文转载于网络，感谢辛苦编辑。此外，如果我们转载的内容有原始版权，或我们不慎侵犯了原始版权相关权益人的权益，请扫码联系我们，我们立即删除并深表歉意，万分感谢。
