当我们忙于思考机器是否会产生意识时，我们很少停下来问自己：我们会发生什么？
作者：沙伊·图巴利
关键要点
过于关注机器能做什么、不能做什么，让我们回避了一个同样紧迫的问题：人工智能的广泛应用将如何改变人类思维？它会变得更像机器吗？ 哲学家吉杜·克里希那穆提警告说，随着机器复制我们的认知能力，人类可能会失去与更深层次、非机械的意识形式的联系。 真正的问题不是人工智能是否会产生意识，而是人类能否培育出超越可预测的机器思维模式的智能。
自20 世纪 50 年代以来，关于人工智能的讨论主要围绕一个大而诱人的问题：机器能做什么？它们在哪些方面会遇到瓶颈？它们会真正思考、理解，甚至产生意识吗？它们能达到所谓的“人类智能高度”吗？还有一个隐约可见的问题：如果可以的话，它们会背叛我们，成为某种竞争物种吗？这种恐惧多年来一直激发着人们的想象力。例如，哲学家尼克·博斯特罗姆 (Nick Bostrom) 设想了一个机器超级智能可以控制我们的命运的未来，就像人类的力量现在决定大猩猩的生存一样。
随着 2022 年生成式人工智能的兴起，人工智能的前景突然变得近在眼前。正如历史学家尤瓦尔·诺亚·哈拉里 (Yuval Noah Harari) 所指出的那样，生成式人工智能已经“破解了我们文明的操作系统”——语言。如果在这个新世界中，人工智能不仅开始生成文字，还开始生成信仰、神话，甚至可能生成一种可以彻底改变人类历史进程的新文化，那会怎样？另一方面，大多数人工智能哲学家都迅速给这场盛宴泼了冷水，他们指出，虽然人工智能可以上演一场模仿和模拟人类思维的精彩表演（著名哲学家约翰·塞尔称之为“弱人工智能”），但它根本没有——也不能有——自己的思想（“强人工智能”）。
然而，过于关注机器能做什么、不能做什么，让我们回避了一个同样紧迫的问题。当我们忙于思考机器是否会拥有意识时，我们很少停下来问自己：我们会发生什么？当我们意识到，即使是今天模仿思维的“弱人工智能”也已经能够接管我们曾经认为是人类独有的认知任务和能力时，这会给我们带来什么改变？
这种近距离接触就发生在哲学家斯文·尼霍姆 (Sven Nyholm)身上。有一天，他在试验 ChatGPT 时输入了“马丁·海德格尔会如何看待人工智能的伦理问题？”令他惊讶的是，该软件很快就写出了一篇“关于这个话题的相当令人印象深刻的短文”。尼霍姆坦率地承认，带着一丝好笑，“ChatGPT 的表现至少比我班上的一些学生要好，甚至可能比很多学生都要好。”他甚至承认，人工智能的回答可能比他当场想出的答案要好。
这则轶事发表于 2023 年，当时正值大型语言模型 (LLM) 发展的早期阶段。再过一两年，我们可能就会发现，几乎无法区分大学教授撰写的论文和熟练但无脑的人工智能撰写的论文。如果机器能够快速将不同学派的复杂思想编织在一起，以发现概念上的联系，那么这种学术活动是否仍被视为智能？我们引以为豪的知识——我们引以为傲的激活大脑联想和比较网络的能力——是否仍然有意义？
这只是普罗米修斯式人工智能从人类诸神手中夺取火种的一个小例子，它指向了一场我们都乐于忽视的哲学、心理和存在主义的变革。但这场危机是否只有在“强人工智能”占据主导地位时才会降临到我们头上？不太可能。即使是今天所谓的弱人工智能——它们在统计上可以做我们在语义上做的事情，在没有真正智能或自我意识的情况下取得同样的结果——也已经引起了轰动。想象一下，一个人类画家坚持认为他们深深感受到了每一笔画：如果软件可以在没有一丝感觉的情况下创作出同样激动人心的作品，这重要吗？
对人类思维的挑战
幸运的是，在过去几年中，一些哲学家已经开始感受到这场意义危机即将来临。关于人工智能如何影响我们过上美好生活和实现个人成就的能力的讨论才刚刚开始。人工智能伦理已经不再只是简单地弄清楚如何以道德或有价值的方式使用这些技术。然而，即使是这些新兴的对话也常常忽略了更大的图景，主要关注人工智能是否会使工作等有意义的人类活动过时，或者它是否会带来新的意义途径，如虚拟现实。但有一个更深层次的、未被问到的问题徘徊在背景中，这个问题是由非传统思想家吉杜·克里希那穆提在 20 世纪 80 年代初提出的：“如果机器可以接管人类所能做的一切，而且做得比我们更好，那么人类是什么，你是什么？”
当克里希那穆提（1895-1986）问出这个问题时，他已经是一位 85 岁的圣人，他花了近 60 年的时间探索思想、意识和心理革命的必要性的奥秘。他不是典型的哲学家；克里希那穆提出生于印度，他以不妥协的思想家身份开辟了自己的道路。他背弃有组织的宗教和意识形态体系，相信真正的自由只能来自内心。对他来说，有意义的生活的关键在于自我探究和一种能够激发独立思考和深刻自我意识的教育。克里希那穆提的哲学不是遵循一套信仰——而是关于每个人无畏地探索生活中重大而令人不安的问题。
1980 年是人工智能哲学的转折点，尽管当时人工智能本身还在摸索中。哲学家约翰·塞尔提出了如今著名的“中文房间”思想实验，认为机器可以在没有一丝真正理解的情况下产生令人印象深刻的结果。大约在这个时候，克里希那穆提也通过与计算机科学家的对话接触到了人工智能的世界。但令他震惊的不是这项技术的奇迹，而是它对人类思维提出的令人不安的挑战——机器有朝一日可能会接管人类独特的过程和能力。这个问题让他很恼火，成为他生命最后十年最深切的担忧之一。他强烈地感到有必要把这个问题带给他的听众，认为这是一个需要深思熟虑的紧急危机。
克里希那穆提一直都是个有远见的人，他对人类可能逐渐走向衰落的未来做出了一系列大胆的预测——几乎是预言性的警告。他以自己特有的热情，生动地描绘了一幅不远的未来——“大约 10 到 15 年后”——人工智能将完全取代人类智能，将我们变成一个由闲散的僵尸组成的社会，专注于休闲和娱乐。他预测，机器将决定我们的生活方式，比任何医生都更能诊断我们，翻译书籍，创作与贝多芬相媲美的交响曲，创造开创性的哲学，甚至召唤新的大师和神灵让我们追随。
虽然这一愿景尚未完全实现，而且 44 年后人类文化依然生机勃勃，但机器学习（尤其是深度学习）的最新飞跃与克里希那穆提的一些预测相呼应。大型语言模型现在可以生成类似人类的文本、散文、诗歌，甚至艺术和音乐，而人工智能则涉足药物设计和科学发现。从很多方面来看，他所预见的世界听起来有点太熟悉了。
机械化思维
克里希那穆提的末世论与尤瓦尔·诺亚·哈拉里关于人工智能是文化创造者的观点有着惊人的共鸣。但两者之间有一个很大的区别：克里希那穆提并没有陷入虚假信息等社会担忧中。他一生的使命就是揭露大脑的机械习惯。对他来说，机器可以模仿人类思维的想法不仅令人着迷，而且是一个具有深刻心理和精神冲击力的启示。如果我们的思想可以被机器重塑，那么我们的思维可能比我们愿意承认的更像机器人。这是一个让我们从内心深处震惊的现实。
克里希那穆提并不认为思维与计算机有任何相似之处。计算功能主义者可能会认为构建思维与构建机器一样简单，但克里希那穆提认为我们的思维远不止于此。但他担心我们低估了自己，让我们的思维陷入了记忆和知识处理等机械程序中。他警告说，只以这种方式运作的思维很容易被复制，甚至被机器取代。所以，真正的问题不是人工智能是否会发展出像人类一样的思维，而是我们自己是否会陷入像机器一样的思维。“计算机正在向你发起挑战，”他说，“你必须迎接挑战。”对他来说，迎接挑战意味着尽我们所能让我们的思维不同于人工智能——呼吁我们超越那些有可能让我们变成我们自己的机器的倒影的程序。
克里希那穆提并不认为智能机器是某种奇怪的、随时准备取代我们的竞争物种。对他来说，机器只是人类思维的延伸——一个按照我们自己的形象建造的大脑，人类和人工思维是镜像。仔细想想，人工智能开发人员并不是凭空想出点子，他们是基于对人类思维、智力和创造力的假设来打造人工智能。所以，当我们看着这面人造镜子，发现我们自己的思维模式在镜子里回荡时，这是一个警钟：许多我们曾经认为需要意识、智力或创造力才能实现的能力实际上可以交给机器。如果我们将思维简化为计算，意识本身并不会将我们区分开来。事实上，大脑和计算机之间的界限日益模糊。
在某种程度上，克里希那穆提颠覆了阿兰·图灵著名的“模仿游戏”。图灵在 1950 年的论文中提出了一个思维实验，看看机器是否能模仿人类的语言行为，对任何提问做出有意义的回应。想象一下：一个女人和一台电脑，分别藏在不同的房间里，而一个不知道谁在哪里的人类法官通过电子邮件（或者在图灵的时代，用电传打字机）提出问题。如果法官在猜测谁是人类时，不能比抛硬币做得更好，那么计算机就通过了测试。但克里希那穆提的兴趣不在于机器能否像人一样说话；他更关心的是人类像机器一样说话。换句话说，如果机器真的能通过图灵测试，克里希那穆提并不认为这是机器智能的证明，而是人类思维本身机械性的反映。
我们喜欢想象我们的思维至少有时是聪明而富有创造力的。但克里希那穆提并不这么看重思维。他认为，我们容易被模仿，源于我们对思维本身的严重依赖。对他来说，思维是大脑的计算习惯——一个机械循环，“从经验开始，经验变成知识，以记忆的形式储存在大脑细胞中；然后从记忆中产生思维”。经验、记忆和知识的这种连锁反应通过重复得到强化：我们根据这种内在储备采取行动和反应，从这些行动和反应中学习，并积累更多的经验、记忆和知识。这是一个纯粹的机械循环，由重复驱动。在克里希那穆提看来，思维可以归结为“记忆反应”，这是一种与计算机工作方式惊人相似的内部编程。毕竟，计算机就像大脑一样的信息仓库，在运行过程中不断学习和自我纠正。他们无需真正“思考”就能完成这一循环，但最终却能胜过我们。
那么，我们至少能从知道我们真实的身体体验是独一无二的这一点中得到安慰吗？毕竟，没有一台超级智能的机器可以变成人类，坠入爱河，或者仰望星空，感叹“多么美妙的夜晚！”但如果我们认为我们的身体意识会给我们带来优势，克里希那穆提会很快打破这种幻想。他认为，即使是我们的体验也被根植于记忆的反应所蒙蔽。想象一下：当我欣赏一颗美丽的夜星时，我的思绪立即跳转到熟悉的图像，比较和标记这一刻，而不是让我体验到新的事物。思想创造了符号和精神快照——也许是 Instagram 上完美的瞬间——并被困住了，只能通过昨天的镜头看待现在。
克里希那穆提称之为“形象塑造”，它出现在生活的各个角落，将我们的反应变成惯例。不仅仅是我们的政治或宗教信仰让我们回到旧模式；我们对食物、性和娱乐的渴望也是如此。以色情作品为例——人们可能因为过去经历中的愉悦画面而被它吸引，但每次接触都只会增加心理库，形成一个条件反射循环。因此，克里希那穆提告诫我们不要在机器的感官限制中寻求安慰，因为事实上，机械思维无处不在，悄悄地从人类经验中汲取深度。
克里希那穆提警告说，我们真正体验生活的能力只会进一步减弱。随着智能机器和机器人接管我们更多的思维，大脑可能会变得懒惰、缺乏刺激，坦率地说，还会感到无聊。在一个工作和奋斗都已成为过去的世界里，我们的体验可能会逐渐减少，只剩下对娱乐和快乐的追求——一个又一个耀眼的干扰做出反应的循环。克里希那穆提说，当我们达到那个点时，我们将面临两条路：要么沉迷于无休止的娱乐，陷入僵尸般的生活，要么决定通过唤醒更高的意识来保持头脑敏锐。
克里希那穆提的警钟
克里希那穆提面对人工智能挑战的建议简单而深刻：抵制娱乐思维的诱惑，通过深入“人性的广阔深处”来保持思维的运转。我们当中的乐观主义者可能认为，一旦摆脱了常规，大脑就会自然而然地飞向更高的追求。但克里希那穆提并不那么乐观。他怀疑，一个习惯于机械思维的大脑会在没有付出一些认真努力的情况下突然活跃起来。这就是为什么他坚持要求我们积极地运用我们的思维，这种做法使我们有别于机器，并探索超越单纯思考的活动和能力。对克里希那穆提来说，思维和机械思维是两个截然不同的世界。当他谈到锻炼大脑时，他指的不是填字游戏或数独。他指的是人类思维具有巨大的、甚至是无限的能力——只要它被知识、专业化和物质关注所困扰，这种能力就永远是未知的。
这是克里希那穆提的警钟：在人工智能统治的世界里，任何我们忽视的人类能力都将开始萎缩。许多哲学家都大胆主张维护心灵的特殊地位、无与伦比的意识和自然智慧。但克里希那穆提对将意识视为某种固定的、不可动摇的特征并不感兴趣。相反，他认为人工智能的崛起是对将意识视为一种技能的挑战——一种我们很少运用的潜力。对他来说，真正的任务不是保护心灵，而是拓展它，培养某些隐藏的能力。他坚持认为，意识不仅仅是一种天赋；它是一种等待实现的可能性。
这种转变颠覆了通常的争论：我们不应该问机器是否会有意识，而应该问人类是否能够有足够的意识，超越他们内部和周围机器的“人工智能”。克里希那穆提还质疑思维是否能产生真正的智能，因为思维本质上是机械的。毕竟，如果我们的思维像机器一样运作，它真的能被称为智能吗？对克里希那穆提来说，人工智能要求我们重新审视智能本身。如果我们同意真正的智能不可能是机械的，那么也许是时候将智能定义为任何计算机都无法模仿或模拟的东西了。
克里希那穆提认为，对超级智能机器的最终回应是培养真正的智慧——一种由非思维智能引导的智慧。他认为这种智慧并非植根于记忆。虽然我们大多数人通过层层过去的经验和储存的知识与世界打交道，但智慧头脑只在“必要时”使用知识，而且在大多数情况下，不依赖熟悉的事物。它不重视记忆的机械过程——昨天的想法或明天的计划——并努力保持尽可能开放和整洁。除了必要的实用知识之外，这种头脑每晚都会释放白天的负担，清除石板“就像在一天结束时死去一样”。结果是头脑自发而活跃。对于克里希那穆提来说，这种非机械个体会将自己视为“一直在变化的东西”，每天黎明都会发现一个全新的自我。
培养真正智慧的头脑（并摆脱机器的自动化思维）的第一步关键是参与哲学家所谓的“二阶认知”或反思性自我意识，认识到头脑的程序化模式。幸运的是，头脑和机械思维并不相同，这意味着我们有能力注意到我们的头脑何时陷入了经验-记忆-知识的循环中。尽管这可能让人感到不舒服，但克里希那穆提认为这种认识至关重要：他说，理解思维的机器性质是“智慧的源泉”，是独特、更深层次意识的火花。
克里希那穆提并没有提供完整的答案，但他所提出的建议足以让我们提出正确的问题。对他来说，问题本身比任何答案都更有力量。他相信，只要思考真正的智慧到底是什么，我们就会开始唤醒它。他说，这种觉醒最终使我们能够将自己的思想与周围的人工智能区分开来。
https://bigthink.com/thinking/the-mechanized-mind-ais-hidden-impact-on-human-thought/
