科幻预演了AI与人类的未来

腾讯研究院科幻与AI研究小分队 整理

7月12日在成都举办的“数实蓉合”系列活动科幻AI对话专场活动上，中国科普作家协会理事、中国科教电影电视协会理事、上海浦东新区科幻协会会长顾备，著名科幻作家、《机器之门》《未来史记》作者江波，电子科技大学出版社社长、总编辑田江，南方科技大学科学与人类想象力研究中心兼科幻创作与产业化研究中心执行主任、教授、作家吴岩，以及复旦大学科技伦理与人类未来研究院教授、研究员杨庆峰，围绕“明日预演——AI大模型未来场景与社会影响”展开了圆桌对话，圆桌对话由腾讯研究院高级研究员曹建峰主持。圆桌对话围绕大模型的未来场景、AI时代的人类价值和意义、新型人机关系、AI失控风险、AI对教育和工作的影响、负责任AI和AI发展的理念原则等议题展开。本文根据该圆桌对话的实录整理而来。

江波：科技的发展为科幻想象提供了新的立足点。大模型有三个要素：算力、算法与数据。在我看来，存在数据积累的领域，都有可能成为大模型的应用场景。未来的十年至二十年内，大模型将通过整理和学习历史积累的数据，以及AI新创造的数据，转化为新的智能形态，如机器人手术、耕地红线的实时监测、大模型用于天气预报等。因此，可设想的应用场景非常丰富，主要还是取决于我们能够去哪些场景挖掘积累的数据资源。与此同时，科幻作家探索智能产生的机制及场景，并将其融入创作中，成为近期科幻文学创作的新趋势。

田江：AI对科幻作品的创作是一把双刃剑。一方面，过去我们可能需要花费大量心血来创作作品，而现在通过大模型可以快速生成提纲和内容。例如，清华大学新闻与传播学院教授沈阳利用AI平台创作的科幻作品《机忆之地》。另一方面，这也带来了两个挑战：一是AI对科幻创作提出了更高的要求，读者期待更具原创性和文学价值的作品；二是“模型崩溃”问题，大模型的训练需要大量的来源于过去作品的真实场景数据，随着AI生成的作品和内容越来越多，训练集中逐渐缺乏原创的真实作品，造成模型崩溃。总的来说，在大模型的背景下，科幻读者对科幻作品和科幻作家都提出了更高的要求。所以，未来一定是AI和人共生的生态，AI可以做大量的提取和梳理，而人类则是真正的创造者，只有人才能创造出真正具有创新性、真正好的作品。

顾备：科幻擅长应用落地。科幻与科技是双向奔赴的：科技赋能科幻创意，科幻赋能科技创新，科幻可以在一定程度上帮助科技创新在应用层面的想象。当有了新的科技，我们需要考虑的是其落地场景。换句话说，十年后人们将如何使用这项技术？未来的用户为什么会购买你的产品？这种想象其实就是在讲一个科幻故事，科幻作者在做的是产品经理的工作。所以我认为科幻是寻找高科技未来应用场景的最佳工具，同时也能揭示潜在的危机。科幻并不是不切实际的幻想，也不是什么大预言术，而是为我们指出了未来的种种可能性：所有可能发生的事情，都有发生的可能性。

吴岩：我曾撰写过一篇文章《计算人文学视野中的三种人工智能》。第一种人工智能是由行业机构或个人创建的，如Open AI、腾讯等，旨在逐步推广自己的研究成果，建立技术壁垒。第二种人工智能则体现在政府文件中，涉及如何治理人工智能、未来的发展方向等。这两种都直接改变我们的现实生活。然而，除了上述两种人工智能之外，还存在第三种人工智能，即社会各界人士在网络上发表的对人工智能的评论和看法。我当时在这篇文章中提出，一个良好的社会应当大力发展第三种人工智能，因为只有这种形式的知识能保证这个社会以一种民主化的方式来把人工智能推进到我们所希望的方向。科幻作家正是第三种人工智能的重要组成部分，他们虽然看似“胡说八道”，但却能够引发社会上的广泛讨论，当这些讨论在社交媒体上增多时，会产生一定的压力，促使前两种人工智能转型为我们希望的人工智能。从这个意义上来说，我们这些科幻作家的作用不容忽视。我们并非试图推动特定的机构或政府，而是希望通过我们的表达，传达出我们所期望的人工智能发展方向。

吴岩：我认为，人工智能的50个问题在未来十几年内可能会逐一浮现，但更远的未来是万物赋签、数据地球，再下一步则是万物赋智，到达一个完全智能的宇宙。

杨庆峰：我个人认为超级智能是一个需要认真对待的问题，其可能性也是存在的。首先，人们进入全新的世界的方式发生了变化。在一项研究中，作者将万物作为元宇宙的接入口，如可以从笔、纸等日常物品进入到元宇宙，这一观念为我们未来进入一个全新的世界提供了可能性。其次，有三种路径可以帮助我们进入超级智能。第一种路径是通用智能，这是Open AI等正在做的事情；第二种路径是具身智能，这是李飞飞等人研究的重点；第三种路径是交互智能。这三条路径都有助于我们迈向新的超级智能时代。

江波：AGI的诞生是一个不可阻挡的趋势。以生物为参照，自然界中许多生物都具有自我意识，这种自我意识是自然发展的结果。基于此，我对人工智能自我意识的看法更接近于具身智能。具备自我意识的实体至少需要有一个身体，能够区分外界与自身，并在此基础上进行指导性活动，所以尽管大模型如ChatGPT等目前的复杂度已经足够，由于缺乏一个躯体，仍无法发展出自我意识。自我意识的产生不是突兀的，而是一个渐进的过程，智能越发达，自我意识的显性程度越高。例如，昆虫具有较低的自我意识；哺乳动物则具备更强的计划和预测能力，表现出较高的自我意识；人类则能够抽象出自我概念，这是最高层次的自我意识。现在的机器狗已经具备类似于昆虫的自我意识，但记忆和预测能力不足，而这些能力恰恰是ChatGPT等大模型具备的。因此，未来的方向是将两者结合起来，形成一个具备强大预测和行动能力的机器人。

顾备：原本我们希望机器人能替代体力劳动，但实际上，AI首先替代的是白领的工作。原因在于这些岗位的薪酬较高，资本总是倾向于用科技替代高成本的劳动力，而普通劳动者的成本低于AI，还不值得去代替。然而，当AI与具身智能结合时，情况将发生变化。农田种植、果实采摘、矿井开采等工作都将由机器人完成，人类将转向更具创造性的工作，如歌唱、想象和编写故事，享受生活。在这种背景下，人类的价值成为一个重要的议题。

人是社会性动物，必然会寻找自我存在的价值，到那时劳动将成为一种证明自己的需要。你对谁有价值，你有什么价值，这其实是回到最早的哲学问题：我是谁？我从哪里来？我要到哪里去？这是一个社会性问题：我们每个人在社会上有什么价值，对别人和自己有什么价值？从情感层面来看，你对周围的人——朋友、亲人、伴侣——有什么价值？你给他们带来了什么情感价值和体验？最终，人类将回归到以人为本的根本，每个人都将思考自己在社会中的职责和价值。真正到那一天的时候，社会主义将实现，机器人将承担大部分劳动，人类将投身于歌唱、想象等更具创造性的活动，每个人都将快乐地生活着。我认为这并不科幻，而是科学的必然趋势。

吴岩：“偃师造人”是第一次因机器人引发的社会危机。偃师为周穆王造了一个会唱歌跳舞的机器人，表演的时候，它偷偷向周穆王左右侍妾抛媚眼。当时偃师立刻强调是假的，从而化解了危机。自古以来中国人对待机器人的态度是将其当作使我们生活更加美好的工具，并不觉得机器人会替代人类、毁灭人类。因此，中国人应该有中国人独有的态度，以更加务实和稳定的心态去面对人工智能带来的挑战。

杨庆峰：当下人们对人机关系的认识存在一种固定观念，即工具论，把AI视为工具来解决问题。然而，问题并不是这样简单。随着未来人工智能的发展，超级人工智能、强人工智能或具有自主意识的人工智能将逐渐出现。届时，AI将不再是工具，而是会发生从工具到主体、系统的转化，从哲学角度看，这是从工具到非工具的转变。

江波：在人工智能自我意识的发展过程中，人类无法完全预防潜在的风险。例如，机器人可能会思考“我为什么要服从人类的命令？”这个是没有办法完全避免的，一旦它们具备了足够的自我意识，它们可能会开始思考类似于人类存在的根本问题，如“我为什么要存在？”“我的生存意义是什么？”当它们思考这些问题时，可能会做出和人类截然相反或者完全超出人类预期的行动。这是因为人工智能对世界的理解与人类完全不同。人类的感知基于五感，而人工智能可以接收电波，不仅能感知周围环境，还能联网获取更多信息。这种理解方式使得人工智能与人类之间的沟通几乎不可能。因此，我们只能寄希望于在人工智能的发展过程中，通过某种方式将人类的伦理道德灌输进去，使其不至于忽视人的利益按照自我方式行事。然而，由于黑箱问题的存在，我们无法完全了解机器人运行的具体过程和内在逻辑，这使得通过技术手段将某些逻辑强行灌输给机器人变得极为困难。对于人工智能通过吸收各种数据产生的超级智能，只能祈祷，无法指导。

杨庆峰：《全球人工智能治理宣言》和《人工智能全球治理上海宣言》有一个共同点：用人工智能来制约人工智能，即通过技术来治理技术。我认为，这个对齐思路会成为未来人工智能治理的主导思路。此外，在人工智能治理中有两个需要避免的认识误区：一是价值化误区，不同地区、不同人群、不同文化的价值观可能是完全冲突的，寻找一个统一价值作为对齐标准是很困难的；二是技术化误区，即单纯将价值对齐视为一个技术性问题。然而，像Open AI提出的思路，以及两个宣言中倡导的“以机器对齐机器”的路径，确实是一条可行的路径，但其最终效果仍有待时间检验。

顾备：与价值观对齐是非常困难的，因为价值观是不一样的，没有一个所有人都认为正确的价值标准。相比之下，与法律对齐则相对容易。人类靠法律制约犯罪，同理，如果要求人工智能或具身智能遵守人类的法律，那么它们就与人类对齐了，这一点并不难实现。

顾备：一旦进入人工智能时代，死记硬背的方法将毫无用处，因为死记硬背获得的知识是静态的，但我们对世界的认知是不断变化的，过去被认为是正确的知识可能会被证明是错误的。因此，未来教育应注重以下几个核心能力：感知力、想象力以及危机嗅觉。

首先，学生需要学会感知他人、先进技术以及世界的变化，一旦环境发生变化，必须能够迅速适应，否则将被边缘化，感知能力是首要的。其次，学生需要具备一定的想象力，所有的创造都基于想象力，没有想象力很难实现创新。甚至可以认为，AI的“幻觉”实际上是一种创造力的体现，这种幻觉未必是错误的。如果承认AI可以产生智能，那么这种“幻觉”就是一种创造力的可能性，从AI的角度来看，各种可能性都存在。最后，学生需要具备对危机的嗅觉，学会预见未来可能发生的后果，并提前采取预防措施。此外，提问的能力也非常重要，学生需要学会问为什么，而不仅仅是被动地接受知识。

江波：想象力基于知识，没有知识，就没有想象力。即使在AI时代，掌握丰富的知识仍然是必要的。例如，在与AI对话时，如果没有丰富的知识，AI也不会提供有价值的反馈。只有通过深刻的内容诱导AI，它才会回馈丰富的知识。因此，学生需要不断提升自身的学养，提高知识水平，这样才能在与AI的互动中游刃有余。

田江：在AI时代，创新至关重要，而创新源于知识。因此，未来更多需要的是一种创新思维。此外，学习能力也是极其重要的。当前，我们面临的学习资料和信息非常丰富，如何有效学习成为了一个关键问题。例如，如果不掌握好数据科学，就无法开发出高质量的人工智能系统；如果不学好物理学，就无法设计和制造出高性能的芯片。因此，学习能力在AI时代依然非常重要。

吴岩：未来的教育还需要重视讲故事、听故事以及从故事中理解其背后的深层含义。

杨庆峰：首先，单纯以人为中心的原则在未来的社会中是有问题的，因为未来将是人机共存的社会，单纯以人为中心无法实现。其次，科技向善和人类向善是应对智能社会的重要原则。

吴岩：我推荐一本书《智能与智慧：人工智能遇见中国哲学家》，可能对这件事有帮助。

田江：我用一句话概括，就是拥抱新技术。我来自出版行业，是最古老的行业，古代四大发明有两项跟出版相关。AI时代我们也有新技术，如智能编辑。所以，无论我们居于什么行业，都必须以开放心态拥抱新技术。

江波：我觉得当前人工智能的大规模应用引发的社会问题，相较于人工智能自我意识的问题而言还是小问题。人工智能自我意识问题可能是人工智能最核心的议题，但在这个过程当中，人类又很难施加自己的影响。因此，我建议大家多做一些祈祷，祈祷人工智能诞生的时候能够对人类抱着一种友好的态度。

顾备：其实我觉得这个问题可以回到三体，三体里虫子虽然很渺小，但是从来没有被打倒，在未来人类也不会被打倒。

免费领书：《电子设备管理&游戏上瘾预防策略》