城读 | 反对AI:为什么AI构成人类生存的威胁?

楼市   2024-09-13 21:26   上海  

515

反对AI:为什么AI构成人类的威胁?


人类社会的问题是一个信息网络的问题。

Harari, Y. N. (2024). Nexus: A brief history of information networks from the Stone Age to AI. Random House.

尤瓦尔·赫拉利.智人之上:从石器时代到AI时代的信息网络简史. 林俊宏译. 中信出版社, 2024

Sources:https://www.ynharari.com/book/nexus/

https://www.washingtonpost.com/books/2024/09/11/nexus-yuval-noah-harari-review/

https://www.theguardian.com/books/article/2024/sep/10/nexus-a-brief-history-of-information-networks-from-the-stone-age-to-ai-by-yuval-noah-harari-review-rage-against-the-machine

人工智能的兴起对于人类社会意味着什么?人工智能会构成人类生存威胁吗?为什么人类总是制造出自身难以控制、可能造成自我毁灭的东西?远如核弹,近如人工智能。

以色列历史学家尤瓦尔·赫拉利在新书《智人之上:从石器时代到AI时代的信息网络简史》围绕“信息网络”这一变量,试图通过梳理和分析信息网络的历史来回答这个问题。

赫拉利著有多部畅销书《人类简史》、《未来简史》、《今日简史》等(详情参阅城读 | 智人:我们从哪里来?我们是谁?我们往哪里去?城读 | 明日简史:少数人变成上帝,多数人成为无用阶级?城读 | 继《人类简史》、《未来简史》之后,尤瓦尔·赫拉利再出新书《今日简史》,给出21世纪生存指南)。

赫拉利在其成名作《人类简史》中论述,人类之所以占据主导地位,是因为人类学会了大量合作,这要归功于人类讲故事的能力。这种能力使人类祖先能够相信完全虚构的事物,它是人类宗教、经济和国家的根源。如果说故事是智人模式的基础,那么故事其实是人类社会最早的一种信息网络。在《智人之上》一书中,赫拉利把信息网络视为贯穿人类社会历史的基本结构,也是本书的核心解释变量。赫拉利认为,人类通过建立大型合作网络获得了巨大的力量,但这些网络建立的方式使人类倾向于不明智地使用这种力量。人类社会的问题就是一个信息网络的问题。纵观历史,人类社会经历了不同形式的信息网络:故事、文本、计算机和人工智能。

Nexus封面图为法国皇帝拿破仑三世的信鸽赫克特。为什么用鸽子做封面?赫拉利在书中解释何为信息时,指出在日常用语里,信息通常与人造符号,例如书写文字或口语联系在一起。赫拉利讲了信鸽雪儿阿米的故事。雪儿阿米(Cher Ami)是一只雄性信鸽,法语意为“亲爱的朋友”,第一次世界大战期间雪儿阿米在法国前线,穿越德军炮火传递讯息,拯救了数百名美国士兵。

191810月,美国远征军在为解放法国北部免受德军占领而战斗时,一支由惠特赛少校带领的550多名美国士兵被困在敌军后方,这支营队被称为迷失营,由于不知道被困地点,多次遭受友军误射。惠特赛少校急需通知总部他们的真实位置,但通讯兵遭德军拦截或杀害,惠特赛最后只能求助于信鸽,把写有被困位置的纸条,放进雪儿阿米的右腿上一个小圆筒里,随即放飞。雪儿阿米遭到德军炮火击中胸部,右腿仅有一条肌腱相连,但是身受重伤的雪儿阿米依然将携带重要信息的纸条带到了美军师部,美军随即调整战略,拯救了迷失营剩余官兵,而雪儿阿米在失明和截肢后活了下来,回到美国继续执行任务,1919年因公殉职。雪儿阿米获得军事十字勋章、战争与和平动物勇敢勋章,表彰其英勇成就。

雪儿阿米的标本

赫拉利进一步解释,除了人造符号,任何物体都可以是信息。鸽子本身就是信息。《圣经》关于洪水的神话,诺亚从方舟派出的鸽子口衔橄榄枝返回,让他知晓洪水终于退去。上帝在云中设置一道彩虹,承诺不再用洪水毁灭地球。从此,鸽子、橄榄枝与彩虹便成了和平与宽容的象征。

赫拉利继而指出,信息的本质不在于代表现实,而在于联系。信息将不同的点连接成网络组织起来。这也是本书主标题Nexus的题中之义。赫拉利认为,考察信息在人类社会历史的作用,关键问题在于:它如何把人类联系在一起?创造了什么样的信息网络?

人类社会的力量来自于大规模人类之间的合作。而信息则是人类合作网络的粘合剂。但是信息并不等同于真相。信息并不能可靠地讲述世界的真相。更多时候,信息会产生虚构、幻想和大众妄想,例如纳粹主义和斯大林主义。

赫拉利在书里讲述了信息使人类误入歧途的典型案例。1480 年代多米尼加修士海因里希·克莱默(Heinrich Kramer)在奥地利撰写出版的《女巫之锤》(Malleus Maleficarum)一书,这是一本揭露和处死女巫的指南手册。在这本书中,克雷默用他充满仇恨和想象的笔触详细描述了基督徒可以如何揭露并挫败女巫,他建议使用可怕的酷刑从被怀疑为女巫的人那里获取供词,并认为对有罪者的唯一惩罚就是处死。《女巫之锤》最终成为近代早期欧洲最畅销的书之一。到1500年,该书已出版了八版,1520年又出了五版,1670年之前再版了十六次,并且有许多语言的译本。如果没有印刷机的发明,这本以疯狂可怕的方式揭露和谋杀女巫的指南就不会传播得那么远,让克莱默的疯狂思想传播到欧洲,激起了猎巫狂潮。在16-17世纪期间,导致了大约4-5万名无辜的人因被指控为女巫而遭受酷刑和处决。受害者来自各行各业和不同年龄段的人群,包括年仅五岁的儿童。直至今日,《女巫之锤》的思想仍然影响着世界,许多关于全球撒旦阴谋的当代阴谋论,例如Qanon,都借鉴并延续了他的幻想。

纵观从石器时代到硅时代的信息历史,尽管连接性在不断上升,但真实性和智慧却并没有随之上升。智人成功的秘诀不在于擅长将信息转化为现实的准确地图,而在于擅长利用信息将许多人联系起来。但是这种连接能力往往伴随着相信谎言、错误和幻想。信息网络依靠虚构和幻想将成员联系在一起,并创造秩序。

人类信息网络的历史不是一部线性进步的胜利史。虽然人类信息网络日益强大,但却未必更为明智。如果信息网络优先考虑秩序,而不是真理,它可以变得非常强大,但不一定能够明智地使用这种力量。

今天每部智能手机包含的信息比古代的亚历山大图书馆还要多,并使其所有者能够即时连接到世界各地数十亿人。然而,尽管信息以惊人的速度产生流通,但人类比以往任何时候都更接近自我毁灭。

与以往的信息网络技术不同,人工智能是第一个能够自行做出决策和产生想法的技术,这正是其危险所在。赫拉利认为,人工智能对于人类社会的威胁主要在于以下两点。首先,人工智能的力量可能会加剧现有的人类冲突,导致人类自相残杀。赫拉利借用冷战铁幕的比喻,将当前世界各国的互联网割据和人工智能竞争比喻为硅幕(silicon curtain),“智能手机上的代码决定了你生活在硅幕的哪一边,哪些算法运行着你的生活,谁控制着你的注意力,以及你的数据流向何处。”跨硅幕访问信息变得日益困难,例如中国和美国之间或俄罗斯与欧盟之间。双方日益运行在不同的数字网络上,使用不同的计算机代码,使用不同的网站和应用程序,使用不同的硬件。

世界日益为硅幕所分割。曾几何时,新的信息技术推动全球化进程,使世界各地的人们建立更紧密的联系。但吊诡的是,今天的信息技术如此强大,它可能会通过将不同的人封闭在不同的信息茧中来分裂人类,短短几十年,互联网就从开放网络走向信息茧。人工智能时代的网络战争比冷战时期的核战更为危险。

第二,“硅幕”不仅是将人类分隔开,而且将所有人类与新的人工智能统治者分隔开。无论生活在哪里,人类都为一个难以理解的算法网络所包围,算法网络管理着我们的生活,重塑政治与文化,甚至重新设计着我们的身体和思想。赫拉利警告道,如果一个21世纪的极权主义网络成功地征服了世界,那么它可能是由非人类智能运行的,而不是由人类独裁者运行的。

城读语录

“不要温顺地走进那良夜,

老年应当在日暮时燃烧咆哮;

怒斥,怒斥光明的消逝。


虽然智慧的人临终时懂得黑暗有理,

因为他们的话没有迸发出闪电,他们

也并不温顺地走进那个良夜。


善良的人,当最后一浪过去,高呼他们脆弱的善行

可能曾会多么光辉地在绿色的海湾里舞蹈,

怒斥,怒斥光明的消逝。


狂暴的人抓住并歌唱过翱翔的太阳,

懂得,但为时太晚,他们使太阳在途中悲伤,

也并不温顺地走进那个良夜。


严肃的人,接近死亡,用炫目的视觉看出

失明的眼睛可以像流星一样闪耀欢欣,

怒斥,怒斥光明的消逝。


您啊,我的父亲。在那悲哀的高处。

现在用您的热泪诅咒我,祝福我吧。我求您

不要温顺地走进那个良夜。

怒斥,怒斥光明的消逝。”

——狄兰·托马斯《不要温顺地走进那良夜》,巫宁坤译(修改了一个词,把原译“温和”改为“温顺”)

 城读相关阅读:

3.城读│农业与城市,孰先孰后?简·雅各布斯的“城市先于农业”模型与考古学事实

9.城读│智人:我们从哪里来?我们是谁?我们往哪里去?

20. 城读 | 关于城市与经济发展,我们知道的和不知道

26.城读│汽车是一种高效的城市交通方式吗?

34.城读│为什么马尔萨斯仍然是对的?

47.城读 | 为什么城市、核能与基因工程是绿色的

58. 城读│是谁拥有我们的城市?

61.城读│更好的基础设施,更好的城市生活

70.城读│什么因素决定了21世纪城市的产业复兴

71.城读│电脑不但会下棋,还能种出你的食物

73.城读│科技能为城市未来做什么

82.城读│人类生活水平增长的终结?

84.城读│枪炮、病菌与钢铁:人类社会的命运

85.城读│《枪炮、细菌与钢铁》讲述了真实的历史吗?一个人类学家的批评

92.城读│驱逐:全球资本主义经济的残酷逻辑

94.城读│明日简史:少数人变成上帝,多数人沦为无用阶级?

97.城读│为什么我们对科技期待更多,却对彼此期待更少?

104.城读│金融危机、环境灾难、英国退欧乃至川普当选,根源竟是新自由主义?

123.城读│如何摆脱人类文明进步的陷阱?

176.城读│萨尔曼·可汗重新想象教育:任何人、任何地方都可以享受免费的世界级教育

180.城读 │卡斯特尔论社交网站对社会的影响

185.城读 │在星球城市化时代,是时候放弃经济“三次产业”划分,代之以“四次产业”划分?

187.城读 │贫穷巨型城市与富裕小城,碳足迹孰大孰小?

190.城读 | 地理学家理查德·沃克给旧金山湾区画像:高科技与繁荣的阴暗面

192.城读 │继《人类简史》、《未来简史》之后,尤瓦尔·赫拉利再出新书《今日简史》,给出21世纪生存指南

193.城读 │中国对外援助流向何方?

202.城读 │我们是如何过上现代城市日常生活的?

204.城读│关于全球收入与财富不平等,你想知道的都在这

205.城读 | 当达尔文遇到城市:城市水泥森林如何驱动进化

208.城读 │皮凯蒂论中国收入和财富的不平等,1978-2015

231.城读 | 这是最好的时代,也是最坏的时代:美国当代城市社会的不平等悖论

239.城读│以色列说“要有水”,就有了水:以色列如何从缺水之国转变为水资源强国?

245.城读 | 生而矛盾:城市时代的荣光与黑暗

250.城读│理查德·鲍德温《大合流:信息技术与新全球化》将改变你对全球化的看法

253.城读 | 托马斯·皮凯蒂新书《资本与意识形态》用数据揭示不平等如何改变意识形态

254.城读│经济学家回顾中国四十年改革与发展(可免费下载)

256.城读│汽车时代是一个错误吗?

266.城读│为什么工业革命发生在18世纪英国?

267.城读 | 网络平台巨头如何主宰了我们的社会?

272.城读 | 人类与传染病的互动史

273.城读 | 传染病与不平等

286.城读 | 流行病如何重塑社会、政治、宗教、战争、文化与艺术?

287.城读 | 大卫·哈维:面对新冠病毒的集体困境,我们需要集体地应对

288.城读 | 托马斯·皮凯蒂解决财富不平等的办法

291.21世纪的中国城市:新时代、新挑战、新见解

299.城读 | 人类历史就是一部与致病微生物斗争的历史

310.城读 | 当环境不平等遇到经济不平等:为什么环境库兹涅兹曲线不存在?

312.城读│大卫·哈维论中国在全球经济中的重要性

319.城读 | 没有工作的世界:人工智能将如何影响未来就业

320.城读 | 不受约束的智慧城市是监控城市,我们需要的是足够智慧的城市

326.城读 | 新冠疫情如何影响全球收入不平等?

336.城读 | 资本的前生今世:纪录片《21世纪资本论》用影像呈现三百年来资本与不平等的演变

340.城读 | 大数据时代的隐私问题:奥威尔式vs.卡夫卡式

342.城读│黄奇帆用数据讲解中国经济

344.城读 | 人口、农业、能源、经济和环境转型如何塑造了现代世界?

351.城读 │ 关于环境破坏、气候变化与城市的8本书

354.城读 │ 大城市生活让人更抑郁了吗?

360.城读 | 为什么我们要将技术城市化?

366.城读 | 资本主义的尽头是……参与式社会主义

368.城读 | 资产化:科技资本主义的新逻辑

370.城读 | 对土地的渴求如何塑造了现代世界?

373.城读 | 为什么金钱的未来不是比特币,而是央行数字货币

374.城读 | 加速增长的技术如何造成社会的指数鸿沟?

375.城读 | 黄河三千年:一部自然与非自然的历史

386.城读 | 浩瀚未来:从长期主义视角看人类的过去、现在与未来

388.城读 | 种子、病菌、白银与奴隶:哥伦布大交换如何创造了今天的世界

392.城读 | 托马斯·皮凯蒂新书《平等简史》:我们可以从人类平等的历史中学到什么教训?
396.城读 | 瓦茨拉夫·斯米尔用数字解释现代世界的运作
397.城读 | 哥伦布大交换如何改变了美洲大陆?
398.城读 | 谁是全球化的赢家?谁是全球化的输家?至少有六种答案
399.城读 | 为什么我们那么累?城市疲倦的政治学
401.城读 | 失序:21世纪的艰难时世
413.城读 | 未来是去增长的吗?
423.城读 | 人工智能简史:从农业革命到工业革命,再到人工智能革命?
437.城读 │ 过去两百年世界如何变得富有?

439.城读 | 人工智能如何改变城市?

449.城读 │ 后新冠世界的城市

450.城读 | 城市区域如何成为新国家空间的舞台?

455.城读 | 理解技术战争的五本书

476.城读 | 技术与进步角力的千年史:如何将技术导向共同繁荣?

486.城读 | 技术陷阱:技术取代劳动力还是赋能劳动力?

492.城读 | 人工智能及其所消耗的……

493.城读 | 通往协同智能之路

509.城读 | 巴黎如何发明了现代城市生活?

513.城读 | 马蹄声响:马如何改变人类历史?


(点击文章标题,或进入公众号回复标题前的数字获取文章 )

城读 城市阅读的记录

 

微信公共订阅账号“城读”,每周推送城市阅读笔记

关注我们,请搜索账号 CityReads

或长按上方图片,识别二维码关注




城读
城市阅读的记录
 最新文章