近日，Anthropic CEO Dario Amodei 发表了一篇长文，探讨人工智能对人类的潜在影响。
他大胆预言：「强大的AI」将在26年降临，将把一个世纪的科研进展压缩到5-10年。
作为斯坦福大学神经科学博士，Amodei 在严密推理的基础上，重新定义了"强人工智能"概念，并详细阐述了它在不同核心领域可能带来的积极变革。
益读社摘取了部分内容，与大家一起分享。
比诺奖得主都聪明的“天才之国”
所谓“强大的AI”是指与当今大语言模型类似、但很可能基于不同架构的AI模型，也许会涉及到多种交互模式，并且以不同的方式进行训练。
强人工智能具备以下特征:
就纯智能水平而言，AGI比大多数相关领域的诺贝尔奖得主更聪明，包括生物学、编程、数学、工程学、文学等；
在虚拟工作环境中，具备人类可以使用的一切“界面”，包括文本、音频、视频、鼠标和键盘控制以及互联网访问能力；
能够执行持续数小时、数天甚至数周的长期任务；
没有物理形态，但能通过计算机控制现有的工具、机器人和实验室设备；
信息处理和行动生成速度比人类快10-100倍，实现可以独立工作或像人类团队一样协作。
总而言之，我们可以将其概括为“运作在数据中心内的天才之国”。很明显，这样的实体能够以极快的速度解决非常困难的问题，但要说清楚具体有多快则绝非易事。
我相信在AI时代，智能的边际收益问题同样值得探讨，特别是应当找到能够与智能互为补充的其他要素都有什么。换言之，就是当智能水平极高时，哪些其他因素会成为限制因素。
其实人类真的不太习惯思考“更聪明对于某项任务有多大帮助，这种帮助又在何种时间范围内起效？”之类的问题，但这似乎正是引导我们为强大AI世界勾勒出蓝图的正确方向。
我们可以设想这样一幅图景：强大的AI最初会受到其他生产要素的严重限制，但随着时间推移，智能本身开始越来越多地绕过其他要素，同时将无法绕过的要素（如绝对存在的物理定律）的影响控制在最低水平。而关键问题在于这一切将以怎样的速度发生，又会以怎样的顺序实现。
“浓缩的 21 世纪”
生物学可能是科学进步最有可能直接且明确改善人类生活质量的发展领域。
生物学进步中那些令人惊喜的成果，往往来自极少数突破性发现，而且这些发现又通常与广泛的测量工具或者技术迭代有关。这些工具或者技术能够对生物系统进行精确、普遍且可编程的干预。
这些发现之所以如此重大，正是因为它们突破了内在复杂性与数据限制两条枷锁，直接增加了我们对于生物过程的理解和控制能力。以十年为周期，这些发现不仅为我们建立起对于生物学的大部分基础科学理解，还推动了一系列前沿医疗方法的诞生。
我的基本预测是，AI支持的生物学和医学将使我们人类生物学家将原本需要50到100年取得的进展压缩到未来5到10年之内。
我将其称为“浓缩的21世纪”：在开发出强大的AI之后，我们将在几年之内取得整个21世纪有望在生物学和医学方面取得的所有进展。
神经科学加速的四条不同路径
AI将沿着四条不同的路径加速神经科学进展，希望所有这些路径都能共同治愈精神疾病并改善其功能：
具体包括：传统分子生物学、化学与遗传学；细粒度神经测量与干预；先进的计算神经科学；行为干预。
在我看来，哪怕没有AI的参与，这四种发展途径的共同作用也将在未来100年内治愈或者预防大多数精神疾病，而同样的成果可能在强大的AI的加速发展下被浓缩于5年到10年之内。具体来讲，我对未来的预测包括：
大多数精神疾病将可以治愈；高度“结构化”的问题可能更难解决，但已并非不可能；对精神疾病进行有效的遗传预防似乎是可能的；那些尚不构成临床疾病的日常心理波动也将得到解决；人类的基本体验可以好得多。
科幻小说里经常会出现“意识上传”的主题，即捕捉人类大脑的模式和动态，并在软件层面进行实例化。但我故意没有在文中讨论。一方面是因为这个主题本身就足以支撑起另外一篇文章，另外我觉得虽然意识上传在原则上几乎肯定可行，但在实践中却面临着重大的技术和伦理挑战。所以即使强大的AI如约降临，这个问题也超出了我们关注的未来5到10年的时间窗口。
总之，AI 加速的神经科学可能会大大改善大多数精神疾病的治疗方法，甚至将其彻底治愈，同时极大扩展“认知与精神自由”以及人类探索世界、探索内心的能力。
AI 无所不包，人类如何生存？
我认为单纯因为AI可以做得很好就认为我们自己从事的工作毫无意义，这可能是种认知误区。大多数人在任何方面都做不到特别优秀，但这似乎也没有特别困扰到他们。
当然，今天的人类仍然可以通过比较优势来做出贡献，并可能从自己创造的经济价值中找寻意义。但必须承认，人类也很享受那些不产生任何经济价值的活动。
总而言之，我认为意义主要体现在人际关系和交互上，而非经济劳动。人们确实需要某种成就感或者说竞争感，而在后 AI 时代下，大家完全可能投入数年时间、配合复杂的策略来尝试一些非常困难的任务，就像如今的人们开设科研课题、想要在好莱坞中崭露头角或者是创办一家企业时做的那样。也就是说，有没有某种 AI 方案原则上能够更好地完成这项任务，或者说这项任务在全球经济体系中能不能创造任何价值回报，其实根本就没有那么重要。
经济的部分对我来说要比讨论意义更为困难。首先，在短期之内，我认为比较优势将继续支撑人类在经济活动中存在并不断提高生产力水平，甚至可能在某种程度上让人类之间的竞争环境更加公平。
但我也相信从长远来看，随着AI变得越来越广泛、有效且成本低廉，那么人类的比较优势终将消失。到那时，我们现有的经济架构将失去意义，社会需要就经济的未来组织形式开展广泛讨论。
素材来源：AI前线
—- END -—
往期推荐
