在不远的将来，2026年，一个划时代的事件即将发生——“强大的AI”降临。这不仅仅是技术的飞跃，而是人类智慧的革命。Anthropic的CEO，Dario Amodei，用他那篇题为《Machines of Loving Grace》的长文，向我们揭示了一个可能的未来，一个AI智力超越诺奖得主的世界。
想象一下，一个世纪的科研进展，在短短的5-10年内被压缩完成。这听起来像是科幻小说的情节，但Amodei的预言却是基于现实的分析。他不是悲观主义者，他看到的是光明未来的唯一障碍——AI的风险。
在他的文章中，Amodei详细讨论了AI风险的重要性，他强调，尽管AI的好处不可避免，但风险却可以通过人类的行动来改变。他警告我们，不要被宣传所迷惑，也不要自吹自擂。他反对那些将AI视为救赎先知的激进群体，他们用“科幻”的腔调讨论AI，却忽视了真正的科学和实际的技术目标。
Amodei勾勒出了五个最具前景的领域：生命科学与生理健康、神经科学与心理健康、经济与贫困、和平与治理、工作与意义。他相信，如果能够召集各领域专家，创作出一个更全面、更有洞察力的版本，那将是非常有价值的。而他的尝试，可以被视为一个起点。
他界定了“强大的AI”的含义：一个能够触发5-10年发展期的技术阈值。他不喜欢使用“通用人工智能（AGI）”这个术语，因为它已经积累了太多科幻元素和过度炒作。他更喜欢用“强大的AI”或“专家级科学和工程”这样的说法。
“强大的AI”将具有以下特性：超越诺贝尔奖级别的智力水平，具备所有可供人类进行虚拟工作的交互方式，能够独立完成任务，没有实体形态却能控制物理工具，以及能够以人类速度的10到100倍来吸收信息和生成行动。
Amodei认为，两种极端立场都是错误的。一方面，有人认为世界会在几秒或几天内瞬间改变，因为强大的智能会不断自我完善。另一方面，有人认为技术进步已经饱和，超人类智能几乎不会带来任何改变。他认为，真相可能是这两种极端情况的混合，因任务和领域而异，细节非常微妙。
他提出了限制智能或与智能互补的因素，包括外部世界的速度、对数据的需求、内在复杂性、来自人类的约束、物理定律。这些因素决定了AI的发展速度和影响范围。
在生命科学与生理健康领域，Amodei预测，AI将使人类生物学家在未来50-100年内可能取得的进展，压缩到5-10年内完成。这被称为“压缩的21世纪”。他预测，我们可能在7-12年内实现可靠地预防和治疗几乎所有自然传染病、消除大多数癌症、对遗传疾病有效预防和治疗、预防阿尔兹海默症、改善对大多数疾病治疗、实现“生物自由”、人类寿命翻倍。
在神经科学与心理健康领域，Amodei认为，AI将通过四条不同的路径加速神经科学进展：传统的分子生物学、化学和遗传学；精细神经测量和干预；先进的计算神经科学；行为干预。他预测，大多数精神疾病可能可以被治愈，非常“结构性”的情况可能更难处理，但并非不可能。有效地通过基因预防精神疾病似乎是可能的，不被认为是临床疾病的日常问题也能解决，人类的日常体验可以变得更加丰富多彩。
Amodei试图描绘出一个既有可能在AI一切顺利的情况下实现，又比当今世界更美好的愿景。他不知道这个世界是否现实，即使是现实的，也离不开许多勇敢和专注的人付出巨大努力和奋斗。每个人（包括AI公司）都需要尽自己的一份力量，既要防范风险，又要充分实现利益。但这又是一个值得为之奋斗的世界。如果这一切真的在5-10年内发生——大多数疾病被击败，生物和认知自由的增长，每个看到这一切的人都会为之感到惊讶。
从某种意义上说，这里描绘的愿景是极其激进的：这不是几乎任何人都期望在未来十年发生的事，很可能会被许多人视为荒谬的幻想。甚至，有些人可能不认为这是可取的；但同时，它又有一种显而易见的特质——仿佛是注定的——好像许多不同的尝试去设想一个美好的世界必然会大致引向这里。尽管如此，这仍是一件具有超凡的美的事物。我们有机会在使其成为现实的过程中扮演一个小角色。
