每天被国外发布的AI大模型刷屏和炸裂，这几天，终于有一个国产项目刷爆了外网，震惊了老外。那就是国产机器人公司宇树Unitree最新发布的机器狗。不过，看完这个狗的表演，我真是倒吸了一口凉气。说真的，国产自动机器人的进步这么大，还是很让人意外的。之前看到的都是波士顿动力的机器狗，感觉遥遥领先我国好几年。现在，感觉宇树这个狗已经后来居上了。不过，这条狗如此智能，如此敏捷，看上去非常能打，所以，让人联想到著名科幻系列剧目《黑镜》中的杀人机器狗，真的一点也不意外。无人机空投机器狗，目前在俄乌前线，已经是基本操作了。所以，《黑镜》中的反乌托邦景象进入现实的日常，不应该感到意外。
今天推荐一本非常切题的新书《The AI Mirror》，“AI之镜”。下面是一篇书评，标题就是《ai is the black mirror》，AI就是黑镜。对这本书感兴趣的朋友，可以点击在看，转发朋友圈，然后公众号右下角联系小编获取。AI Is the Black Mirror
By Philip Ball
AI 即《黑镜》
为什么人工智能和人类思想之间的亲缘关系令人恐惧
哲学家香农·瓦洛（Shannon Vallor）和我正在伦敦的大英图书馆，这里拥有 1.7 亿件藏品——包括书籍、录音、报纸、手稿和地图。换句话说，我们正在一个类似于今天的人工智能聊天机器人（如 ChatGPT）用来“喂养”自己的地方交流。坐在图书馆咖啡馆的阳台上，我们实际上正处于克里克研究所（Crick Institute）的阴影之下——这是一个研究人体内部机制的生物医学研究中心。如果我们从这里向圣潘克拉斯火车站扔一块石头，可能会砸到谷歌在伦敦的总部。香农·瓦洛曾在谷歌担任 AI 伦理学家，后来搬到苏格兰，领导爱丁堡大学的“技术伦理未来中心”（Center for Technomoral Futures）。在这片融合了人类奥秘、人类语言的认知财富和商业 AI 的张扬自信的区域，瓦洛正在帮助我理清这一切。AI 会解决我们所有的问题，还是会让我们变得无足轻重，甚至可能导致我们的灭绝？这两种可能性都引发了令人喘不过气的新闻标题。瓦洛对这两种极端说法都不以为然。她承认 AI 具有巨大的潜力，既可以造福人类，也可能带来破坏性后果，但她认为真正的危险在于其他方面。她在 2024 年出版的《AI之镜》（The AI Mirror）一书中解释说，那些认为 AI 像我们一样思考的天真幻想，和那些将 AI 想象成邪恶独裁者的偏执妄想，都在虚构 AI 与人类的“亲缘关系”，从而助长了一种关于人类思维的幼稚和有害的观点。这种观点可能会鼓励我们放弃自主权，向机器屈服。阅读《AI之镜》时，我被瓦洛的深度思考所震撼，她超越了对 AI 的常见担忧——如隐私、虚假信息等。她的书实际上是一篇关于“人类与机器关系”的论述，警告我们科技行业正在传播一种退化版的“人类是什么”的观点，试图将人类重塑为一种“柔软、潮湿的计算机”。如果这听起来有些悲观，瓦洛本人却绝不是这样的人。她身上汇聚了她对科学和技术哲学的深厚造诣，以及她在行业内部的洞见，但她却轻松自若地表达这一切。她不是反对 AI 商业化的斗士，反而温和地回忆起她在谷歌的工作经历，同时也对硅谷的某些荒谬现象发出会心的笑声。但她对这些问题的道德和智识的清晰洞见，与“科技兄弟”（tech bros）那种肤浅的自大形象形成了鲜明的对比。“我们正处在一个历史关头，必须重建对人类理性能力的信心，重建人类的集体决策能力，”瓦洛告诉我，“如果我们不能重拾对人类思维和判断的信心，我们将无法应对气候危机或民主基础的分裂。而 AI 领域的一切发展都在与此背道而驰。”为了理解 AI 算法，瓦洛认为我们不应该把它们当作“思想体”来看待。“过去一个世纪以来，科幻小说和关于 AI 的文化想象一直在训练我们，认为 AI 一旦出现，就会是一个机器头脑，”她告诉我，“但我们现在拥有的东西在本质、结构和功能上都截然不同。”相反，我们应该将 AI 想象成一面镜子，而不是复制它所反映的事物。“当你走进浴室刷牙时，你知道镜子里并不是另一个面孔在看着你，”瓦洛说，“那只是一个面孔的反射影像，它具有非常不同的属性。它没有温度，也没有深度。” 同样，思想的反射并不等于思想。基于大语言模型（LLM）的 AI 聊天机器人和图像生成器只是人类表现的“镜像”。“在使用 ChatGPT 时，您看到的输出是人类智能的反射——我们的创造力偏好、我们的编程专业技能、我们的表达方式——无论我们输入了什么，都会在输出中反映出来。”甚至连专家也会在这个“镜厅”中被迷惑。2024 年，计算机科学家杰弗里·辛顿（Geoffrey Hinton）在一场 AI 会议上表示，“我们对语言的理解方式与这些大语言模型的工作方式非常相似。”因其在深度学习技术领域的开创性贡献，辛顿与他人共同获得了当年的诺贝尔物理学奖。辛顿相信，这些 AI 不仅仅是盲目地“复述”看似有意义的文本模式；它们还会在某种程度上自己理解单词和概念的含义。训练 LLM 的过程类似于允许它通过调整其神经网络中的连接，直到它能稳定地产生“正确答案”。辛顿将这一过程比作“为一个超自然早慧的孩子当父母”。但由于 AI 可以“知道”远超我们所能掌握的内容，并且“思考”得更快，辛顿得出结论：AI 可能最终会取代我们。“在智能进化的过程中，人类很可能只是一个过渡阶段，”他在 2023 年的麻省理工科技评论会议上表示。“辛顿在谈论知识和经验时，已经远远超出了他的理解范围，”瓦洛说，“我们知道，大脑和机器学习模型在结构和功能上仅仅是表面类似。在物理层面上发生的事情之间存在巨大的鸿沟，而我们有充分的理由相信，这种鸿沟确实会产生影响。” 换句话说，这两者之间根本没有真正的“亲缘关系”。我对瓦洛说，我同意，世界末日的说法确实被炒作得太多了。但一些研究人员表示，大型语言模型（LLM）正在变得越来越“认知化”。据称，OpenAI 的最新聊天机器人“Model o1”通过一系列“连锁推理”步骤来工作（尽管该公司拒绝披露这些细节，因此我们无法确切知道这些步骤是否类似于人类的推理）。此外，AI 确实拥有一些可以被视为“思想特征”的东西，比如记忆和学习功能。计算机科学家梅拉妮·米切尔（Melanie Mitchell）和复杂性理论家大卫·克拉考尔（David Krakauer）提出，虽然我们不应该将这些系统视为与我们相同的“思想体”，但它们可能是完全不同、陌生类型的“思想”。“我对这种观点持相当怀疑的态度。这种观点在未来可能是合适的，我原则上并不反对我们可能会建造‘机器思想’的想法。但我不认为这就是我们现在正在做的事情，”瓦洛说。瓦洛对“AI 作为思想”的抵制，源于她在哲学领域的背景。在哲学中，思想通常植根于“经验”，而这正是当今的 AI 所不具备的。她认为，谈论这些机器在“思考”是不恰当的。她的观点与 1950 年英国数学家和计算机先驱艾伦·图灵（Alan Turing）发表的论文《计算机与智能》中的核心思想相冲突。这篇论文常被认为是 AI 的概念基础。图灵提出了一个问题：“机器能思考吗？”但他随后将其替换为另一个他认为更好的问题，即我们是否能够开发出一种机器，这种机器的回答将与人类的回答无法区分。这就是著名的“图灵测试”。但瓦洛认为，这只是“模仿”而已。“对我来说，‘思考’是我们拥有的一套特定且独特的体验。没有体验的思考，就像没有氢的水——你已经抽走了其中的关键成分，导致它失去了本质。”瓦洛认为，推理需要“概念”，但 LLM 并未真正“发展出”这些概念。“我们在 LLM 中所称的‘概念’，实际上是某种完全不同的东西。它是对高维数学向量空间中的关联关系的统计映射。通过这种表示，模型能够比随机搜索更高效地‘看见’到解决方案。但这并不是我们人类的思维方式。”不过，LLM 在“假装推理”方面非常擅长。“我们可以问模型，‘你是如何得出这个结论的？’它会给出一整套逻辑链，看起来很有道理，但如果你仔细追问，这套逻辑很快就会崩溃成一堆胡言乱语。这说明，机器并没有遵循一条确定的‘思想链路’，也没有坚持这一逻辑链。它只是一个概率分布，生成了一套与其输出匹配的‘类逻辑’形状。自 20 世纪 50 年代 AI 概念出现以来，关于“人类思维与机器之间的虚假亲缘关系”的陷阱便已显露出来。而这正是让我最担心的问题，我对瓦洛说。这并不是因为 AI 系统的能力被高估了，而是因为人类大脑的运作方式因此被严重贬低了。“这是我最担心的事情，”瓦洛表示同意。每当她在演讲中指出 AI 算法并不是真正的“思想体”时，瓦洛说：“总会有观众走过来对我说，‘嗯，你说得对，但这只是在某种意义上，因为归根结底，我们的思想也并没有做这些事——我们也不是真正理性的，我们也并不真正为自己的信念负责，我们只是像预测机器一样吐出人们期望的词汇，我们只是在匹配模式，我们只是在做一个 LLM（大语言模型）在做的事情。’”辛顿（Hinton）曾暗示，LLM 可能拥有“情感”。“也许不是和我们完全一样的情感，而是某种略有不同的方式，”瓦洛说，“然后你会发现，他之所以这样说，是因为他把‘情感’的概念从任何人类的体验中剥离出来，把它转变成了一种‘行为主义的反应’。这是基于 20 世纪最简化的关于人类心灵的理论，并将其视作基本真理。这样一来，宣称机器与人类之间存在‘亲缘关系’就变得轻而易举了，因为你已经把‘人类’转变成了一台没有思想的机器。”当涉及到“通用人工智能”（AGI，Artificial General Intelligence）这一备受推崇的概念时，这些问题就变得尤为严重。AGI 通常被定义为一种能够执行人类所有智能功能并且比人类做得更好的机器智能。有人认为我们已经接近这一门槛。但要提出这样的主张，我们必须将“人类智能”重新定义为我们行为的一个子集。“是的，这是一种有意为之的策略，目的是转移人们对我们尚未实现 AGI 且离其还很遥远这一事实的注意力，”瓦洛说。硅谷的文化具有某种“宗教色彩”。这种文化不会因为任何反对的证据或论证而动摇。起初，AGI 的概念意味着一种不会遗漏人类思想所能做的任何事情的“超级智能”，一种我们不可能对其是否在思考和理解世界产生怀疑的东西。然而，在《AI之镜》（The AI Mirror）一书中，瓦洛解释道，像辛顿和 OpenAI 首席执行官山姆·阿尔特曼（Sam Altman）这样的专家，现在将 AGI 定义为一种在计算、预测、建模、生产和解决问题方面与人类同等或更优的系统。“实际上，”瓦洛说，阿尔特曼“移动了目标，并表示我们对 AGI 的定义就是一台能够有效完成人类所做的所有经济价值任务的机器。” 这是该社区的常见观点。微软 AI 的首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在著作中写道，AI 的最终目标是“将使我们人类富有生产力和能力的本质提炼成软件、成算法”。他认为这相当于“复制出使我们作为一个物种与众不同的东西——我们的智能”。当瓦洛看到阿尔特曼对 AGI 的这种重新定义时，她说：“我不得不关上笔记本电脑，盯着天花板发呆了半个小时。现在，AGI 的目标仅仅是制造出能够替代你工作的机器。它可以像一台烤面包机那样没有思想，只要它能完成你的工作就行。而这正是 LLM 所做的事情——它们是无思想的‘烤面包机’，但却能够完成大量的认知性劳动，而不需要真正的‘思考’。”我问瓦洛，关于 AI 的这些误解和错误引导，是否与技术社区本身的文化有关——与其狭隘的培训背景和文化多样性的缺乏有关。她叹了口气说：“在旧金山湾区生活了大半辈子，并在科技行业工作过，我可以告诉你，这种文化的影响是深远的。而且这不仅仅是一种特定的文化视角，它还具有某种‘宗教’的特质。人们对这种思维方式的某些承诺是牢不可破的，无论提供多少反对的证据或论证也无法撼动它。”瓦洛说，事实上，提供反对的证据只会让你被排除在对话之外。“这是一种对‘什么是智能’的非常狭隘的概念定义，推动这一定义的是一套非常狭隘的价值观——其中，效率和‘胜者为王’的支配性理念被视作任何智能生物都应追求的最高价值。”但瓦洛继续说道，这种“效率”从未与任何更高的价值挂钩。“这点总是让我感到震惊。因为我可能是‘最有效率的纵火犯’，能以最快的速度烧毁地球上的每一所房子，但没有人会说，‘哇，香农，你是我们见过的最有效率的纵火犯！干得好！’”![]()
瓦洛并不低估日益强大的 AI 对我们社会带来的威胁，比如隐私问题、虚假信息和政治稳定。但她现在最担心的，是 AI 正在如何改变我们对“自我”的观念。“我认为 AI 正在对人类生命的存在意义构成一种迫在眉睫的威胁，”瓦洛说，“通过对我们思维实践的自动化，以及围绕 AI 的叙事，AI 削弱了我们作为世界中‘负责任的、自由的智能体’的自我认知。你可以在那些想要剥夺人类自治权的专制言论中发现这一点。而 AI 又为这种言论注入了新的活力。”更糟糕的是，她说，这种叙事被包装成一种“客观的、中立的、与政治无关的故事”：“有些人真的认为‘人类自主决策的时代已经结束’——而且这还是一件好事，因为这‘只是科学的客观事实’。这令我感到极度不安。我们被告知，接下来 AGI 将会创造出比我们更好的东西。而且我确实认为，有一些非常愤世嫉俗的人相信这一点，并以某种宗教般的慰藉接受这一信念，认为他们正在‘迎接机器继任者的到来’。”瓦洛并不希望 AI 的发展完全停滞。她说，AI 真的可以帮助解决我们面临的一些重大问题。“在医疗、能源和农业领域，AI 仍然有巨大的应用潜力。我希望它能够以经过明智选择、受到良好引导和管理的方式继续发展。”这就是为什么，她认为，对 AI 的强烈反对虽然可以理解，但从长远来看可能会是一个问题。“我看到很多人开始反对 AI，”瓦洛说，“在许多创意圈子里，这种反对情绪变得越来越强烈。三年前，当 LLM 和图像生成模型首次出现时，这些社区的态度要平衡得多。那时，许多人会说，‘这看起来还挺酷的。’但由于 AI 行业在对创作者的权利和自主权的态度上表现得极为剥削，现在你会看到创意工作者说，‘去他的 AI 和所有与之相关的人，别让它靠近我们的创意工作。’”瓦洛担心，这种对 AI 最有害形式的反应性抵制，可能会蔓延成对 AI 的普遍不信任，从而阻碍 AI 在解决任何实际问题方面的潜力。虽然瓦洛仍然希望推动 AI 的发展，但她承认，“我发现自己常常站在那些愤怒反对 AI 的人那一边，而他们的反对理由完全合理。”她承认，这种分裂反映了人们“人类与技术之间的人工分界线”，这种分界线常常被人们固守不放。她说，这种分界线“可能是非常有害的，因为技术是我们身份认同的核心组成部分。从我们成为智人之前开始，我们就是‘技术性生物’。工具一直是我们解放自己、创造更美好生活以及更好地关爱地球上其他生命的工具。我不想失去这种联系，去强行制造出‘人类对抗机器’的对立局面。从本质上讲，技术可以与任何人类活动一样具有‘人性化’的特质。只不过我们失去了与这一点的联系。”我是不懂经的经叔，国内最早翻译介绍了纳瓦尔的《如何不靠运气获得财务自由》，以及影响了纳瓦尔、中本聪、马斯克等大佬的《主权个人》。不懂经知识星球，众多百万粉丝大V、千万及亿万富翁订阅。专注分享一人企业、一人创投主题，关键词：AI、IP、创投、科技及商业前沿的高杠杆内容。欢迎订阅不懂经知识星球，星球新开主题专栏，个人IP的底层逻辑和顶层设计。经叔将基于多年的品牌策划和广告营销从业经验，结合麦克卢汉的媒介理论以及信息论的前沿理论，从不同的视角来重新定义个人IP。未来的硬通货食物链：代码=数据=信息=内容=流量=注意力=货币=资本
一块钱顶100万：光速下的通胀与传统经济学的崩塌
15秒成为有钱人：美国版《挖呀挖》及它们共同的成功法则
万字重磅：未来10年财富游戏的金律与金线
马斯克最新荐文：为什么文化会赢？（深度认知战争、科技乃至自媒体）
如果我现在25岁，我会 All In干这两个方向
