《智人之上》:新型信息网络崛起,作为人类的「何去与何从」|造物分享

创业   2024-10-18 16:01   北京  

人工智能时代全面来临,历史进程步入「新智能化周期」的关键时刻。未来科技将如何影响社会以及人类自身?「吴声造物」与你分享一本书。

2024年9月,历史学家、哲学家、全球畅销书作家尤瓦尔·赫拉利新作《智人之上:从石器时代到AI时代的信息网络简史》由中信出版集团出版。本书是尤瓦尔·赫拉利继《人类简史》《未来简史》《今日简史》之后的又一重磅之作,阐述信息网络如何塑造我们的世界,并探讨不同的社会结构在试图构建信息网络时所面临的关键困境。

下为新书简介与内容精编,与你分享。

两年前,ChatGPT横空出世,掀起了一场「人类是否会被人工智能取代」的讨论热潮。几乎所有人都已经发现,我们正生活在一场前所未有的信息革命之中。

但这到底是一场怎样的革命?太多突破性的发明如洪水般滚滚而来,以至于我们很难判断到底是什么推动了这场革命。是互联网?智能手机?社交媒体?区块链?算法?还是人工智能?

人类一再声称,有些事情是计算机永远做不到的,无论是下棋、开车还是写诗,但事实证明,原来「永远」也不过就是几年。

如今智能机器崛起,能够自己做决定、自己创造新的想法。这也是史上第一次,权力从人类转移到其他物种手中。

● 历史学家、哲学家、全球畅销书作家尤瓦尔·赫拉利

在最新力作《智人之上》中,历史学家、「人类简史」三部曲作者尤瓦尔·赫拉利再次做出重要论断:「我们所有人在未来几年所做的选择,将决定召唤这种非人类智能究竟是个致命的错误,还是会让生命的演化翻开一个充满希望的新篇章。」

很显然,人工智能已经推动历史进程来到了一个「to be,or not to be」的关键时刻,未来科技将会如何影响社会以及人类自身?身处时代浪潮中的每个人都应该多花点时间来思考这个问题。

我们已经成为巨头的商品而非用户

21世纪初期,人工智能研发竞赛愈演愈烈,一开始也是由少数几个国家的民间企业领跑的。这些企业的目标是集中全球的各种信息流。谷歌希望汇聚全球所有信息,亚马逊希望集中全球所有购物,脸书则希望连接全球所有社交领域。

在2002年,凯文·凯利曾问过谷歌创始人拉里·佩奇一个问题:「拉里,我还是不懂。做搜索的公司那么多,你也要做网络搜索,还免费?这是为了什么?」

佩奇解释说,谷歌的重点根本不是搜索。他说:「我们真正在做的是创造一套人工智能」。如果能拥有大量的数据,就能更轻松地创建人工智能,而人工智能又能把大量的数据转化成巨大的能量。

到21世纪10年代,当初的梦想正在成为现实。

人工智能和生物技术正在颠覆原有的社会结构和分配方式,数据成为21世纪最重要的资产。数据争夺赛已经开始。目前就算是在民主国家,谷歌、脸书与亚马逊等少数企业也在各自领域处于垄断地位,一部分原因在于人工智能的天平倒向这些行业龙头。

谷歌、Facebook这些数据巨头靠提供免费信息、服务和娱乐来吸引我们的注意力,但是其真正的目的在于取得我们的大量数据。

以谷歌搜索引擎为例,每天的使用人数为20亿-30亿,一天的总搜索量高达85亿次。假设有一间本地的新兴搜索引擎公司想要与谷歌竞争,只能说是无计可施。谷歌已经有了几十亿个用户,这让谷歌得以取得更多数据、把算法训练得更好,于是又能吸引到更多的用户,再用来训练下一代的算法,就这样不断循环。因此,2023年谷歌在全球搜索引擎市场的占有率高达91.5%。

把所有信息与权力都集中到一处,已经成为了人工智能时代的决定性优势。数据巨头们现在评估APP和产品的标准已经不是能赚多少钱,而是能收集到多少数据。有些产品哪怕不赚钱,甚至短期内亏损,但只要能获得数据,就价值连城。所以,不管数据有什么用,最好先有了再说,因为这可能就是控制和塑造未来生活的关键。

从某种意义上讲,我们早已不是他们的用户,而是他们的商品。而长期来看,只要他们取得足够多的数据和运算能力,就能破解生命最深层的秘密,不仅能为我们做选择或者操纵我们,甚至可能重新设计生命,或无机的生命形式。

人工智能取代人?这个问题有三个常见的误区
现在,很多人所做的工作在30年前根本无法想象,例如博主、无人机操作员、虚拟世界设计师等等。

2050年,所有人类的工作都消失的可能性实在微乎其微。真正的问题,其实是该如何适应新工作与新情境造成的动荡。想要缓解冲击,就得预先做好准备,特别是让年轻一代掌握在2050年的就业市场上用得到的技能。

然而,就业市场的动态,很可能与我们的许多直觉相矛盾。这里存在着三个常见的错误假设。

第一个常见的错误假设,人类独有的技能,更不容易自动化。
举例来说,比起运动或社交技能,知识分子常常比较看重智力技能。但就自动化而言,比起洗碗的自动化,下棋的自动化要简单得多。但结果发现,计算机要打败西洋棋世界冠军,可比取代一位厨房杂务工简单多了。

如果从薪水的角度来判断,我们应该会说社会比较尊敬的是医生而不是护理师。然而,有些医生主要的工作就是收集医疗数据、做出诊断、提供治疗建议,其本质是辨识模式,从数据中找出规律,正是人工智能比人类做得更好的事情之一。

相较之下,距离发展出足够的技能来完成各种护理工作(像是给伤员换绷带、给哭闹的小孩打针),人工智能还有很长的路要走。

这两个例子是为了说明人如果想在2050年仍然找得到工作,或许除了培养智力技能之外,在运动与社交技能上也该投入同样多的精力。
第二个常见的错误假设,唯有人类拥有创造力,所以只要是需要创造力的工作就很难自动化。

在国际象棋领域,计算机已经远比人类更有创造力。许多其他领域也可能会慢慢变得如此,从作曲、证明数学定理,再到写出像本书这样的作品。

我们对创造力的定义,通常就是能够找出模式,再打破模式。若真如此,计算机既然如此善于辨识模式,在许多领域就很可能会变得比人类更有创造力。

第三个常见的错误假设,是计算机无法取代人类那些需要情绪智能(又称情商)的工作,像心理治疗师或教师。

人的各种情绪,其实也都是模式。「愤怒」是我们体内的一种生物模式,而「恐惧」是另一种生物模式。人工智能本身没有情绪,但还是可以学会如何辨识人类的这些情绪模式。

事实上,人工智能正因为没有自己的情绪,更可能比人类更懂得如何辨识情绪。一项2023年的研究发现,ChatGPT聊天机器人在特定场景中感受情绪的能力已经超越普通人类水平。

显而易见的是,未来几十年,经济的动荡程度可能比20世纪30年代初期的大规模失业带来的动荡更大。我们的大问题并不是人类真的没有工作可做,而是面对不断变化的就业市场,我们该如何进行再培训与调整适应。

21世纪,人类最重要的生存技能可能就是灵活性。在未来几十年,旧工作会消失,新工作会出现,但新工作很快也会改变并消逝。因此,人类的再培训绝不可能一次完成,人类要一而再、再而三地进行再培训,才能让自己在社会上不被淘汰。

人工智能崛起,对国际形势的两大挑战

人工智能产业的原材料是数据。要制造能够识别图像的人工智能,需要有猫咪的照片;要生产最流行的时装,需要时尚趋势的数据;要生产自动驾驶汽车,需要交通模式与车祸的数据;要生产医疗保健人工智能,需要基因与各种健康状况的数据。

新的帝国信息经济是从全世界收集原始数据,再流向帝国中心,在那里研发最先进的技术,生产出无与伦比的算法,从而有能力识别猫咪、预测时尚趋势、驾驶自驾汽车、诊断各种疾病。

接着,再把生产出的算法出口到数据殖民地。来自埃及和马来西亚的数据,可能让旧金山的某家企业变得极为富有,但开罗和吉隆坡的人民依然贫穷,分不到半点的利润或权力。

新信息经济的本质,可能会让帝国中心与被剥削的殖民地之间形成比过往更严重的不平衡。

在古代,最重要的经济资产是土地而非信息,而这就避免了所有的财富与权力过度集中在一个中心。

工业革命期间,机器变得比土地更重要。这时候最值钱的资产是工厂、矿场、铁路和发电厂,而要把这些资产集中在一处已经变得比较容易了。

信息就不一样了。数字数据不像棉花或石油,能够接近光速地从马来西亚或埃及送旧金山。算法也不像土地、油田或纺织厂,并不需要占用太多空间。因此与工业的力量不同,算法的力量确实能够集中到单一枢纽中心。只要一个国家的工程师,就能写出让整个世界运行的算法,并掌握所有重要的密钥。

人工智能与自动化对于较贫困的发展中国家会是一场特别的挑战。在人工智能推动的经济中,数字领先国家能够囊括大部分收益,再用这些财富进行劳动力的再培训,进而获取更高的利润。

与此同时,落后国家的非技术性劳动力价值将会下降,而且这些国家又缺乏再培训劳动力的资源,于是变得更加落后。结果可能是在旧金山出现大量新的就业机会与巨大的财富,而世界许多其他地区则成为一片经济废墟。

根据全球会计师事务所普华永道的预测,人工智能预计在2030年将为全球经济增加15.7万亿美元。但依照目前的趋势,中国与北美合计将抢下其中70%的份额。

人工智能的崛起,又将会怎样改变国际政治的形态呢?除了各种世界末日的场景,新计算机时代对目前的国际体系还有两大挑战。

第一,由于计算机让信息与权力更容易集中于单一中央枢纽,人类可能进入一个新的帝国时代。整个世界就这样落入几个帝国(甚至是单一帝国)之手,而且控制的强度远高于当初的大英帝国。

第二,一道新的硅幕可能让人类分裂,使之分属于敌对的数字帝国。随着每个政权对于人工智能一致性问题、独裁者困境与其他技术难题提出了不同的答案,这就可能各自创造出独立而又非常不同的计算机网络。

在不同的网络(以及这些网络所控制的人类)之间,互动的难度将越来越高。每个网络的生活经验与世界观都大异其趣,于是几乎无法沟通,也难以达成共识。世界如果由不透明的硅幕隔成许多敌对的帝国,将难以约束人工智能爆炸性的威力。
未来可能成为「茧」的时代

这样的经济与地缘政治动态,可能让世界分裂成两个数字帝国。冷战期间,许多地方的铁幕真的是由金属制成的:一道铁丝网,将两个国家硬生生地隔开。而现在的世界则逐渐是被硅幕分隔的。

硅幕由代码组成,存在于世界上每一台智能手机、计算机与服务器之中。智能手机上的代码决定了你活在硅幕的哪一侧、被哪些算法控制生活、被谁控制注意力,以及你的数据会流向何方。

目前,想要跨越硅幕取得信息正变得越来越困难,中国与美国分属两侧,俄罗斯与欧盟各属两方。此外,硅幕两侧所用的数字网络与代码也渐行渐远,各自有不同的规范,也有着不同的目的。

在中国,新数字科技最重要的目的在于强化国家实力、推行政府政策。虽然民间企业在人工智能的研发上有相当的自主权,但企业经济活动仍服务于国家战略。

在美国,政府扮演的角色影响力相对有限。人工智能的研发与部署是由民间企业主导的,而且许多新人工智能工具的终极目的是让科技巨头变得更富裕,而不是要强化美国国家或现任政府的实力。

这些政治、文化与法规上的差异,意味着在不同的数字领域就会使用不同的软件。在中国不能使用谷歌和脸书,在美国很少人用微信和百度。各个数字领域也会使用不同的硬件,例如智能手机与计算机。

近两年,从短期来看,美国的芯片出口限制令,将阻碍中国在人工智能竞赛中的发展,但从长远来看,这将促使中国发展成一个完全独立的数字领域,从最基本的组成要件就与美国数字领域截然不同。

这两个数字领域可能渐行渐远,彼此越来越陌生。中国的软件只能与中国的硬件、中国的基础设备对话,而硅幕的另一侧也会是同样的情形。由于数字代码会影响人类的行为,而人类的行为又会反过来塑造数字代码,于是硅幕的两侧就这样走上完全不同的路径,不仅在科技上越来越不同,在文化价值观、社会规范与政治结构的差异也越来越大。

人类经过许多世代的趋同,或许也到了趋异的关键时点。

在过去几个世纪,新的信息技术推动了全球化,让世界各地的连接更加紧密。但矛盾的是,如今的信息技术已经变得如此强大,却可能把人类封闭在一个又一个的信息茧里,使人类走向分裂,不再拥有单一的共同现实。

过去谈到人类社会,我们通常觉得是如「网络」一般,但未来可能就成了「茧」的时代。人类社会分裂成一个又一个的信息茧,不但会造成经济对抗与国际紧张局势,还会发展出各种截然不同的文化、意识形态与身份认同。
应对未来的新现实,不可或缺的四个原则

在21世纪,对于这些新的信息技术,民主国家可以选择有节制地运用,以不侵犯公民隐私与自主权的方式,为公民提供更好的健康照护与安全保障。

并不是每个金苹果里面都一定藏着毁灭的种子;新科技不一定都得带有什么寓言教训。几百年、甚至几千年前,我们就知道这些原则,现在只是要把这些原则再应用于计算机时代的新现实。

第一个原则是为善。

如果计算机网络要搜集关于我的信息,必须是用来帮助我,而不是操纵我。目前已经有许多传统官僚体系(例如医疗保健系统)成功采用了这个原则。医生要是把病情、家庭情况这些信息卖给第三方,不仅不道德,还会犯法。就律师、会计师或治疗师手上的信息而言,情况大致上也是如此。

第二个原则是去中心化。

民主社会绝不该允许所有信息集中在一处,不管是政府还是民间企业。如果成立一个国家医疗数据库,收集公民信息来更好地服务于健康照护、疫情预防或新药研发,这对人民极为有益。但如果把这个数据库与警方、银行或保险公司的数据库整合,就会极为危险。

民主制度要想存活的话,效率低一点并非坏事,反而是一件好事。此外,让许多数据库与信息渠道独立存在,也有助于维持强大的自我修正机制。

第三个民主原则是相互性。

如果民主制度打算加强对个人的监控,就必须同时加强对政府与企业的监控。税务或福利机构搜集更多关于民众的信息,并不一定是坏事,反而可能有助于提升税务与福利制度的效率与公平性。但我们不想看到的,是所有信息的流动都是「自下而上」的。

民主需要达到平衡。政府与企业常常会研发各种算法,作为自上而下的监控工具。算法也可以轻松变成自下而上的强大工具,提升政府透明度,强化问责制,揭露企业逃税行为。

第四个原则是监控系统必须永远保留让人改变与休息的空间。

在人类历史上,压迫的形式分为两种:剥夺改变的能力、剥夺休息的机会。如果民主社会采用强大的监控技术,就得小心避免走向太过刻板或者弹性过大的极端。

人生在世,要学会在「提升自己」和「接受自己」之间找到平衡。在这两种极端之间找到正确的路,是一项永无止境的任务。

来源 - 中信书院
|内容交流|
请添加WeChat:doingalliswell (注明来意)


吴声造物
场景实验室官方账号,吴声与研究团队带来场景、新物种的最新研究成果。场景实验室是一家以场景方法为特色的品牌战略服务机构,提供场景研究、品牌策略、议题设计、势能传播等创新咨询服务。
 最新文章