彭兰 | “AI诺奖”时代？——人-机关系与“不确定性”的新文明 | 热点

目前本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱tsyzm@sssa.org.cn停止使用，原投稿邮箱tansuoyuzhengming@126.com为编务邮箱和应急邮箱。原创文章，未经授权，谢绝转载，如需转载请留言。

在人与机器的关系中，一直都是人处于绝对的支配地位，机器只是一种工具，而在未来，随着人工智能、大数据、物联网、生物技术和其他技术发展，机器的能力将发生本质的跃进，人与机器的边界被打破，其关系也将被深刻改写。新的人－机关系或许会使今天以人主导的信息文明演化为人与机器共同作用下的“人－机文明”，这种新文明既可能延续与丰富人类文明，又可能在一些方面偏离人类文明的既有轨道，这些偏离也可能酝酿出风险。技术将为人、机器以及文明的发展带来巨大的不确定性。

对于人与机器新关系的常见表达是共生、融合，这会意味着人的存在、人的本质这些最基本的问题受到挑战，而这一线索并不是今天才开启的，早在20世纪就已经埋下伏笔。起源于20世纪60年代的赛博格概念，就是一种超越自然人的人－机耦合设想，即向人类身体移植辅助的机器装置以增强人类适应外部空间的生存能力。后来，它泛指由机械拓展而超越人体限制的人的新身体。美国学者堂娜·哈拉维（Donna Haraway）指出，赛博格意味着人类与动物、有机体（人类与动物）与机器、身体与非身体之间的界限的模糊。

今天，与人的身体相关的设备（包括手机）和智能传感器，正在共同促进人的赛博格化。这些机器不只是人的器官延伸，而是成为某种意义上的新器官。它们增强了人对外界的感知、连接与认识能力，同时也增加了人被外界认知与控制的维度。这些机器也将人随时随地映射到虚拟世界——人的身体状态、行为甚至思维活动都被数据化，人与信息的界限不断模糊，人类日益成为后人类主义研究的代表人物凯瑟琳·海勒（Katherine Hayles）所说的作为物质－信息混合物的后人类主体。技术也可以将数字化的人切割成很多数字化的元件，如外貌、声音、动作等，这些元件可以脱离其母体与其他对象结合，这也是深度伪造的前提。新技术的发展，甚至使记忆的修改、意识的上传也在变得可能。而未来，更多可以直接嵌入人体的智能芯片，或将使人的赛博格化变得更为名副其实。

以赛博格研究为代表，20世纪晚期以来，后人类主义（包括超人类主义）的研究在一波波推进，不少研究都涉及NBIC技术（即纳米技术、生物技术、信息技术、认知科学）等对人类机能甚至寿命的“增强”问题，这也包括机器对人的增强。对人类是否应该采用增强技术，支持者与反对者各执一端。人类的增强是否会带来对人的尊严的威胁、增强技术是否一定带来幸福等，也是研究者关心的。这些问题不仅是抽象的伦理讨论，也涉及实践层面公共制度的走向，一个核心关切是：“如果一个可能的准人准机器的混生物出现了，人类应当建构何种公共拟制才足以应对?”

虽然争论一直存在，但机器和其他技术对人类的增强已经开始，机器与人的融合也已经开始，因此，我们不得不面临一种新的生命哲学。“这种新生命哲学的首要问题恐怕是：自然人类被技术化（非自然化）的限度何在?”技术的进一步发展，必然也会使得关于“限度”的问题的讨论变得更为重要，例如人类是否应该实现永生，人的意识是否可以脱离身体而存在。即使是像海勒这样的后人类主义者也认为，理想的后人类是体现各种技术的潜力，而不幻想无限的权力和无形的永恒。人的生命扎根于复杂多样的物质世界，人的延续离不开物质世界。她并不接受人的意识与身体分离这样一种可能前景。

除了身体机能增强外，在大数据、人工智能等技术的支持下，机器也在某些方面增强了人类的认知能力和决策能力，使之超越人的感官能力和自身经验。这并非通常人类增强技术所讨论的范围，但也是机器对人类增强的一种路径。

然而我们也不应忽视增强的另一面：机器可能在某些方面带来对人的能力的削弱。当人被机器随时随地量化后，外界对人的监测与控制力增强，但人对自我的控制与保护能力却被削弱。借助机器，人与人的连接线索、交流场景与手段变得丰富，但人与人面对面的交流能力可能减弱。搜索引擎的普及，使人对“外部记忆”的依赖增强，人自身的记忆能力却可能在下降。数据与算法提高了人在某些方面的认知与决策能力，但也可能导致人对机器智能的依赖更强，人的独立智能反而被削弱。

如果万物皆被机器“量化”“算法化”，甚至连艺术创作也都成为一种数据计算，人是否会陷于单一的计算思维与工具理性而导致人文思维与人文精神的萎缩？如果没有高度的数据文明支持（这不仅体现在数据的基础设施、应用能力上，也体现在数据伦理、数据治理、数据文化等方面），人是否会被数据技术所奴役？进一步，如果情感、道德等专属于人类的本质属性都被计算化并可以移植到机器上，是否会意味着人在逐渐丧失他作为人类的地位？虽然提出这些担忧是为了阻止它们变成现实，但最终的结果取决于人类对于技术应用尺度的拿捏，相比以往的各种技术，未来的拿捏要复杂、困难得多。在机器支持下，人类为了突破自己的局限向未知领域发起一次次冒险，这就意味着我们将面临很多不确定性。作为一种后人类文明，人－机文明会不断挑战我们过去坚信不疑的某些观念，坚守我们所认为的人之为人的本质属性，或许也不像今天这样理所当然，文明的走向也变得不是那么明了。

人－机文明下不确定性的激增，也是由于机器智能这个新的变量的引入。人们越想探究机器可以被开掘的潜力，特别是越想让机器向人靠拢，就会越多承受这种探索带来的不确定性。

谷歌无人驾驶汽车

今天的机器不仅在智能上向人接近，在情感上也在模仿人，可以预见，机器的“拟人度”会越来越高，尤其对“机器人”而言。一个直接结果是模拟人－人交流的人－机交流将越来越普遍，在这样的人机交流中，机器被当作交流对象而不是传播中介。看上去机器拟人度的提高有助于增加人与机器之间的情感共通可能，但这样的人机交流实质上仍是以人为中心的，人从机器那索求关注与安慰，机器是人的被动的服务者。习惯了在人机交流中以自我为中心的人，或许会在人与人的交流中，也沿袭人机交流的模式与思维，将他人也当作一个可以随意支配的机器。人机交流的普及，或许也会使得交流成为一个可以由开关控制的程序，人们也可以像选择菜谱一样来选择其所需的交流，并精确计算其“价格”“营养”与“热量”，而回避那些自己不能控制或“性价比”不够高的交流。反过来，未来人机交流的盛行，也会意味着，人在机器眼里也是一种物化的对象，在今天的一些护理机器人的应用中，已经出现了这一问题。因此，机器的拟人度的提升，是使世界变得更为人性化，还是可能走向其反面——使得世界变得更机器化，这个问题并不像我们期待的那么简单。

另一方面，适用于人类的权利、地位与规范等，是否可以同样适用于机器人或其他智能机器？虽然在这一问题上同样存在争论，但赋予机器人及其他智能机器相应权利的呼声在与日俱增。与权利类似，机器能否具有像人一样的主体地位，在伦理领域、法律、哲学等领域，也引发了广泛的讨论。这些领域的讨论都存在三类代表性取向：一类坚决否认机器的主体地位；第二类认为未来的强人工智能可能或应该获得像人一样的主体地位；第三类则认为机器能获得某种拟主体地位，但人的主导性不可动摇。无论是哪一种取向，都与学者们的基本立场紧密相关，有些人坚持人类中心主义，有些人反对人类中心主义，有些人则走调和、折衷的道路。显然，这样的分歧还会持续。

当然，认为应该赋予机器相应权利与主体地位的人，也是抱着对机器责任的期待。但今天的讨论，都只是代表人们的愿望，这些愿望是否可以通过相应技术真正加载到机器身上？具有智能的机器，是否会脱离人为它们设定的轨道？未来技术发展中的变数，技术的创造者、垄断者与政治、经济权力之间的博弈，使我们对这个答案并没有把握。

一个最大的不确定性恐怕是，人工智能如果有一天会发展到超出人类智慧，成为超级智能，它将给人类带来什么。有些学者断言：超级人工智能的存在升级实际上是人类的自我否定和自我了断，这意味着人类在世界存在系统中失去了地位，人类不再重要，历史将失去意义，人类文明将成为遗迹。这种观点也代表了一批研究者的看法。

那么，人类是否会因此从现在开始放弃智能机器的开发，以消除未来的不确定性？或许并不能，无论是习惯性的自信、对技术潜力本身的好奇、挑战人类极限的冲动，或是商业利益的驱动，人类恐怕都难以在看到一种新可能时停下脚步。这样一种探险也并非没有意义，它们会推动人类对于某些稳定常态的反思，也可以让人类在试探新边界时审视现有边界的意义。当然，这样的探险需要一定的警戒与约束机制。

但今天的探险者与警戒者可能还存在着较大程度上的割裂——对机器能力的拓展努力来自自然科学领域，而讨论、警示机器的社会影响的学者，大多来自人文社科领域，他们的主张虽然表达了个人的态度、立场，但至少在目前，还很难影响到实践进程。

然而即使目前这些人文领域的思考对技术发展的干预有限，这方面的努力并不能放弃。在面向人机文明的未来制度设计中，也需要酝酿更好的机制，让技术领域之外的声音，更多传递给技术的控制者、决策者。同时，关于人机文明的走向的讨论，也不应只是专家们的闭门思考，而是应该成为一个重要的公共话题，进入更广泛的公众视野，只有普通人开始面向机器的挑战思考人的本质与核心价值所在，明了未来应该坚持的价值方向，他们才可能成为人机文明中更积极的创造主体。

回望人机文明的出发点，我们看到的初衷是，人试图通过基于机器的新创造来克服人类机能的弱点，随着技术的发展，这一目标已经不那么遥不可及。但克服这些弱点需要我们付出什么样的代价，这些代价的付出是否值得？人与机器的互动与协同，究竟是拓展了人类的疆域还是会让人类本来的地盘失守？人与机器共同作用下的人机文明，是坚持人类文明按照它的既有轨道前行，还是创造人机和谐共生的新文明，或是任由机器将我们带向一个未知的新世界？虽然现在我们不会有答案，但我们的行动会决定未来的答案。