AI能拯救我们这个世界吗？
文摘
2024-10-15 23:38
四川
![]()
Amodei畅想说：“如果这一切真的在5到10年内发生——大多数疾病的失败，生物和认知自由的增长，数十亿人摆脱贫困，共享新技术，自由民主和人权的复兴——我怀疑每个人目睹这一切对他们的影响。我的意思是，目睹所有新技术的个人利益，当然这将是惊人的。我的意思是目睹我们长期以来一直持有的一系列理想在所有人面前同时实现的经验。我认为许多人会被它感动得热泪盈眶。”
Amodei作为AI科技工作者以及企业家在上面所畅想的关于人类社会未来是由强人工智能带来的。作为神经科学博士他实际上在这篇文章中完全认可了语言大模型的AI发展方向。通过《强大的AI》，我有一个AI模型——可能与今天的LLM在形式上相似，尽管它可能基于不同的架构，可能涉及几个相互作用的模型，并且可能以不同的方式进行训练——具有以下特性：- 就纯粹的智能而言，它比大多数相关领域的诺贝尔奖获得者更聪明——生物学、编程、数学、工程、写作等。这意味着它可以证明未解决的数学定理，写出非常好的小说，从头开始编写困难的代码库等。- 除了只是一个“你与之交谈的智能事物”之外，它还拥有人类虚拟工作时可用的所有“接口”，包括文本、音频、视频、鼠标和键盘控制以及互联网访问。它可以执行任何由这个接口启用的操作、通信或远程操作，包括在互联网上采取行动，给人类提供或接受方向，订购材料，指导实验，观看视频，制作视频等。它再次以超过世界上最能干人类的技能执行所有这些任务。- 它不仅仅是被动地回答问题；相反，它可以被赋予需要数小时、数天或数周才能完成的任务，然后像一个聪明的员工一样去做这些任务，必要时请求澄清。- 它没有物理体现（除了生活在计算机屏幕上），但它可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上，它甚至可以为自己设计机器人或设备。- 用于训练模型的资源可以被重新用于运行它的数百万实例（这与2027年左右预测的集群大小相匹配），并且该模型可以以大约10倍-100倍于人类的速度吸收信息和生成操作。然而，它可能受到物理世界响应时间或与之交互的软件的限制。- 这些百万副本中的每一个都可以独立地进行不相关的任务，或者如果需要，可以像人类一样共同工作，也许不同的子群体可以微调以特别适合特定任务。Amodei基于这些强AI的特长进行了他关于未来社会的畅想。AI无疑已经触及到了更加智能的领域，特别是这里的能力多有一种对于人类相应能力的模仿和超越。这里假设是可以超越的。当然，这实际上绕开了关于AI是否具备人类真正智慧的技术难题。如果单纯从算力来讲，电脑、超级电脑早就超过了一般人类个人的计算能力。我们知道在政治经济学的视野里，科技的关键作用关键是看对于生产效率的提升。Amodei在这里提出了他的设想就是未来强AI模型可以提升10-100倍人类智能处理信息的能力。从某一单项功能来说我们不用怀疑这种能力，但是全面的提升这个恐怕还面临着不少技术难题。何况原理上我们认为也没有完全突破。Amodei预测说：“AI驱动的生物学和医学将使我们能够在5-10年内压缩人类生物学家在未来50-100年内将取得的进展。我将这称为‘压缩的21世纪’：即在开发出强大的AI之后，我们将在几年内取得我们在整个21世纪将取得的所有生物学和医学进展的概念。”从他的这个预测来看，加入预测成立，Amodei寄希望于AI的能力是通过AI人类进入了一个技术化科学家的一个大爆发时代。这是否能够破解资本主义关于科学进步无限焦虑的症候呢？这种逻辑当然也是非常清晰的，作为智能，人类最聪明的一群人当然是科学家。不过以此推广，其他聪明人恐怕也难以避免。
从智能生产来讲，首先最难最有用的是进行科学发明的突破。理论突破之后需要把基础理论实验化，并把实验成果产业化。一旦产业化，这种工作就是比较程序化的工作了，这个是自动化智能化能够提升效率的领域，而且已经被我们现在的技术条件所证明。按照这个设想，如果AI的技术大爆发能够推动整个社会生产力在未来5-10年增加10倍，那么AI技术作为新一代工业革命肯定就能够成立了。基于图灵测试原理主要还是对于人类智能的模仿，无论是过程的模仿还是结果的模仿，但是在Amodei的预想中实际上不仅仅是基于这种模仿而且有大量的超越，这种是很难想象的。在笔者看来，强AI的发展可能不一定是全面突破，是在人类相关领域进行结合性的突破。反而在哪些比较容易程序化的领域容易提升出成果，反之就还需要模型的不断迭代。这种模型学习和迭代究竟有没有其本身的限制呢？我们不知道，但是量的迭代肯定比质的迭代来得容易。
