在人类的历史长河中，有一些特殊的时刻曾是关乎人类命运的转折点。火的发现、轮子的发明以及电力的应用——所有这些时刻都彻底重塑了人类文明，永久地改变了历史进程。如今，我们正接近另一个这样的时刻。一场新的技术浪潮正同时携带着先进的人工智能和生物技术汹涌而来。我们从未见过变革潜力如此巨大的技术，它们势必以令人敬畏的方式重塑我们的世界。
人类天生就是一个技术物种。从诞生之初，我们便与技术浪潮紧密相连，共同进化，共生共存。技术沿着一条清晰而必然的轨迹进化，如同汹涌巨浪，大规模扩散。这种浪潮般的广泛扩散，可能会产生无法预测或难以控制的涌现效应，包括负面的、无法预见的后果。
作为开创性的人工智能公司DeepMind的联合创始人和微软人工智能的CEO，穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。
在新书《浪潮将至》中，苏莱曼以通俗易懂、冷静犀利的笔触，展示了这些力量将如何创造巨大的繁荣，又将如何威胁到作为全球秩序基础的民族国家。他既引领我们了解激进技术变革的历史，又引领我们面对深刻的社会挑战。这本书为我们提供了一剂现实的镇静剂，以下摘编自书中50条精华内容，希望对你有所启发。
一场新的技术浪潮正在重塑世界
1.一场新的技术浪潮正同时携带着先进的人工智能和生物技术汹涌而来。我们从未见过变革潜力如此巨大的技术，它们势必以令人敬畏的方式重塑我们的世界。
2.技术倾向于如浪潮一般广泛扩散，可能会产生无法预测或难以控制的涌现效应，包括负面的、无法预见的后果。
3.人类在努力遏制浪潮的过程中，在开放与封闭之间找到一种微妙平衡的可能性。只有达到这种平衡，人类才能避免灾难性或反乌托邦式的结果。
4.我们面临一个关于未来的选择。这个选择的一端是前所未有的可能性，另一端是难以想象的危机。人类的命运悬于一线。
5.这场浪潮由两大核心技术所定义：人工智能和合成生物学。它们将共同开启人类的新黎明，创造出前所未有的繁荣和富足。然而，它们的迅速扩散也带来了威胁，使得各种恶意行为者有能力在难以想象的范围和规模上制造混乱、动荡，甚至灾难。
6.我们的目标就是复制那个让人类独一无二的特质，即人类的智能。
7.尽管人工智能这一强大的工具能带来巨大的利益，但它也会像其他大多数形式的强大力量一样，引发重大的危险和道德困境。我担忧的不仅仅是人工智能发展所带来的后果，还有整个技术生态系统的演变方向。
8.“悲观规避陷阱”即当你过于害怕面对潜在的黑暗现实时，你就容易产生错误的分析和判断，并倾向于从另一个看似安全的角度来看待问题。这几乎是一种与生俱来的本能反应。
9.这些技术产生的背后有强大的驱动力：地缘政治竞争、巨额经济回报，以及开放、分布式的研究文化。无论我们能否有效监管和控制即将到来的风险，无数的国家与非国家实体都将争先恐后地开发这些技术，它们的行为将影响所有人。
10.在我们从这段非凡的历史中汲取任何乐观情绪的同时，我们也必须坦诚面对现实。要防范技术失败，我们就必须理解并最终正视可能出现的问题。
技术并非敌人
11.技术并非敌人，而是人类社会的一种基本属性。要实现对技术的遏制，我们需要一个更深层次的方案，这一方案无关竞争方之间的力量平衡，而在于人类与工具之间的力量平衡。
12.人类天生就是一个技术物种。从诞生之初，我们便与技术浪潮紧密相连，共同进化，共生共存。
13.人工智能既极具价值，又充满危险，因为它正是人性的最好与最坏方面的延伸。
14.发动机不仅驱动着车辆，也驱动着历史的进程。如今，随着氢发动机和电动机的兴起，内燃机的统治地位正在逐渐走向尾声。但它所引发的大规模人类流动时代仍在继续。
15.技术的出现强化了世间万物的联系，推动了技术自身的流动与传播。每一次技术浪潮都为后续的浪潮奠定了坚实的基础。
16.浪潮，它们起伏、奔涌、连绵不断、交织融合，定义了一个时代的技术可能性和边界。它们是我们人类的一部分。
17.技术的扩散过程是由需求增加和成本降低这两大力量共同催化的。两者都使得技术不断变得更好、更便宜。
18.极少有社会能够成功避开技术的浪潮。那些试图这样做的社会，往往已经陷入崩溃的边缘，或者这种做法本身就成了社会崩溃的导火索。在技术面前，我们没有一条真正可行的退路。
19.人类不可能撤销发明，也不可能长期阻止其应用。
20.人类文明对实用且经济的技术的需求是永无止境的。这一点永远不会改变。
前所未有的超级巨浪
21.技术是一系列不断演变的思想。
22.人工智能是即将到来的技术浪潮的核心。
23.人类之所以聪明，很大程度上是因为我们能够回顾过去并预测未来可能发生的事情。从这个意义上讲，智力可以理解为一种能力，这种能力使我们能够预测关于周围世界如何变化的可能情景，并基于这些预测采取明智的行动。早在2017年，谷歌的一小群研究人员就开始专注于这一问题的一个更具体的方面：如何让人工智能系统只关注数据序列中最重要的部分，以便准确有效地预测接下来会发生什么。他们的工作为后来的大语言模型领域的革命奠定了基础，ChatGPT正是这一领域的代表。
24.在未来几年里，人工智能将如互联网般无所不在：同样触手可及，但影响将更为深远。
25.人们有时会觉得，人工智能在追求复制人类智慧的过程中，仿佛是在追逐一个不断变化、难以捉摸的目标，这个目标总有一些难以言喻的元素永远无法企及。然而，事实并非如此。人类完成特定任务的能力，即人类智慧本身，实际上是相当固定的，尽管这种能力强大且多面。算力的规模在不断扩展，而我们的大脑并不会逐年发生巨大的变化。随着时间的推移，人工智能与人类大脑复杂程度的差距将逐渐缩小。
26.人类能主宰环境，是因为我们拥有智能。因此，可以推想，如果存在一个更智能的实体，它便有可能主宰我们。人工智能研究员斯图尔特·罗素将这个问题称作“大猩猩问题”：尽管大猩猩在体能上超越任何人类，更为强壮与坚韧，但现实是它们处于濒危状态或被囚禁在动物园中，是它们受人类遏制。人类虽肢体柔弱，但拥有强大的大脑，因此能够实施遏制。
27.如果人工智能能够通过我提出的21世纪新时代图灵测试，那么这对全球经济的影响将是深远的。许多关键要素已经就位。
28.在未来几十年，人类平均寿命有望超过100岁，长命百岁将不再是难以实现的梦想。当然，这不仅关乎寿命的延长，更关乎高龄人群过上更健康的生活。
29.生物革命与人工智能的进步正齐头并进。想象一下，两股浪潮汹涌汇聚，相互交融，形成前所未有的超级巨浪。
30.如今技术的挑战在于如何遏制其释放的力量，确保它继续造福我们和我们的星球。这一挑战即将显著升级。
大国竞争，本质上是技术优势的较量
31.核武器在战争期间仅被引爆过两次。目前，全球仅有几个国家拥有核武器。事实上，南非在1989年完全放弃了这项技术。
32.核技术的遏制并非偶然，而是由核大国有意实施的防扩散政策所致。
33.令人忧心的现实是，人类曾试图对核武器这一可怕的技术说“不”，但只取得了部分成功。
34.随着多项重大国际合作的进行，大量有益的私人资本涌入至少30家核聚变初创企业，科学家讨论的焦点已从“核聚变时代是否会到来”转变为“核聚变时代何时会到来”。尽管可能还需要10年甚至更长的时间，但一个拥有清洁的、几乎无限能源的未来似乎正在逐渐变为现实。
35.技术已成为全球最重要的战略资产。与其说技术是外交政策的工具，不如说它是外交政策的驱动力。21世纪的大国竞争，本质上是一场关于技术优势的较量，谁能掌控即将到来的技术浪潮，谁就能在这场竞赛中占据先机。
36.在军备竞赛的逻辑下，如果一个国家选择限制科技发展，而对手国家在不断进步，那么这个国家就等于选择了失败。
37.在“利润引擎”的驱动下，世界经济总值已达到85万亿美元，并且仍在不断增长。对技术领域的人来说，从工业革命的领导者到如今硅谷的创业者，巨大的经济回报这一强大的驱动力始终伴随着技术发展。即将到来的技术浪潮代表着历史上最大的经济机遇。
38.尽管技术上的微小变化都有可能从根本上改变权力关系的平衡，但要准确预测几十年后的情况极为困难。技术的指数级发展扩大了每个人和每件事的影响力。然而，这也带来了看似矛盾的趋势。权力在被集中的同时，也在被分散。旧有势力在得到增强的同时，也在被削弱。民族国家在变得更加脆弱的同时，也更容易陷入滥用权力的风险之中。
39.在原子弹问世几十年后，原子弹的制造者已无法再阻止核战争爆发。技术所面临的必然的挑战在于，一旦某项发明问世并融入世界，其创造者就会迅速失去对其发展走向的控制。
40.随着我们的工具的力量呈指数级增长，普及程度急剧攀升，它们的潜在危害也在同步激增，其后果仿佛一个复杂难料的迷宫，无人能预测或防范。
我们必须让遏制成为可能
41.在某种程度上，人类的历史就是一部灾难史。随着新的技术浪潮逼近，我们又朝着潜在的灾难迈出了一大步。
42.技术遏制看起来不可能实现。但为了所有人的利益，我们必须让遏制成为可能。
43.一个完全透明且基于精细监控的压制性社会，不过是另一种失败形态。在这种情境下，即将到来的技术浪潮不会将人类引向繁荣，而是引向繁荣的反面。
44.随着21世纪的社会日益显现出脆弱性和不可持续性，技术的暂停可能会引发另一种形式的反乌托邦。如果没有新技术的支持，一切迟早都会陷入停滞，甚至可能彻底崩溃。
45.请注意：停滞不前本身就是灾难
46.对技术说“不”的代价可能关乎人类的生死存亡。然而，无论我们以何种态度面对技术，其都伴随着重大风险和潜在负面效应。这就是我们面临的巨大困境。
47.各个技术领域存在数百个截然不同的项目，它们缺乏统一的规划和方向。因此，我们迫切需要一个清晰明确的目标，一个能将技术领域的各种努力凝聚在一起的旗帜。
48.21世纪，人类面临的核心问题是，如何培养足够的政治权力和智慧，如何充分掌握技术，以及如何完善标准规范来控制技术，从而确保技术持续为人类造福而非造成危害。换句话说，我们如何才能掌控那些看似无法控制的技术发展？
49.在一个看似无法实现技术遏制的世界里，所有这些举动都在争取一个未来，一个可能实现技术遏制的未来。
50.失败的风险之大简直难以想象，但我们必须勇敢面对。当然，收获成功的果实也同样令人振奋：那将意味着我们这个宝贵物种的安全与世界的长久繁荣。这值得我们为之奋斗。
DeepMind联合创始人、微软人工智能CEO
穆斯塔法·苏莱曼重磅作品
浪潮将至
技术、权力与未来的冲击
The Coming Wave: Technology, Power, and the 21st Century’s Greatest Dilemma
