最近看到集智俱乐部的复杂系统管理学读书会的微信群里面在讨论关于AI的价值观和伦理的问题。大家意识到了AI犯错可能对人类社会的影响，但是并不知道该怎么理解AI的伦理和价值问题。我想分享一篇文章，也许可以为回应这个问题提供一些新的方向和思路。文章题目《从贝特森的心灵生态学视角看人工智能》（ArtificialIntelligence Seen Through the Lens of Bateson’s Ecology of Mind）。
这篇文章以贝特森的思想为基础，反思人工智能是否可以认为是一种心灵（mind），以及这种心灵与灵性（Spirituality）的关系，或者贝特森称之为神圣的（Sacred）。这篇文章试图将贝特森的思想与人工智能领域结合起来，跨领域面向两个群体去进行对话。
贝特森的思想并不容易理解，他的文字充满了层层叠叠的隐含信息，需要一字一句的反复斟酌。
贝特森的思想介绍
1. 贝特森关于信息的定义
贝特森关于“信息”的定义：信息由产生差异的差异组成。Information consistsof differences that make a difference.
贝特森认为“差异是一种不存在于空间或时间中的非实质现象。”(Difference, being of the nature ofrelationship, is not located in time or in space.)
贝特森指出，在物质世界中，我们“通常说事件的‘原因’是某种力或冲击，由物质系统的某一部分对另一部分施加的作用。相比之下，在心灵的世界中，需要一种关系，无论是两部分之间的关系，还是时间1的某部分与时间2的同一部分之间的关系，来激活我们可以称之为接收器的第三个组件。接收器（例如感官终末器官）响应的是差异或变化。
在贝特森的思想中，差异非常重要，甚至可以是其思想体系的基础。而对差异的感知或觉察是所有心灵过程的关键。
2. 贝特森的本体论
贝特森警告说：“在神经元上传递的不是冲动，而是差异的消息”。换句话说，差异的消息不带有其自身的解释，解释取决于它所经过的系统。正是这种“差异的消息”构成了信息。
尽管贝特森没有讨论他立场的本体论意义，但这暗示了一个“真实世界”的存在，但这个世界只能被间接感知，并且是由主体构建的。心灵中没有事物，没有猪，没有人，没有助产蟾蜍，或者其他什么，只有想法（即差异的消息），关于"事物"的信息，总是用引号括起来。
贝特森从生物学入手，最终得出人的所谓的“真实世界”就是一种主体感知的构建，是非物质的。所有关于差异的消息/信号，都是要在系统中被解释，这也与所谓的“元信念”联系起来了。所谓相由心生，心外无物，一念之转，其本质就是我们自身的元信念系统是一个过滤器和解释器，外界的所有差异能否进入这个系统，以及进入这个系统之后如何被解读，直接构造了我们的主体内在的真实世界。
必须考虑将某个信息置于情境中来使其可理解的信息，但在没有这种元交流信息的情况下，仍然有可能B会根据遗传机制给A的信号赋予情境。也许正是在这个抽象的层次上，学习和遗传学相遇了。基因可能通过决定动物如何感知和分类其学习环境来影响动物。但至少哺乳动物也有能力学习情境。
元沟通就是在情境中的动作，定义情境或使情境变得可理解的动作或行为。很长一段时间，我称这种后者类型的交流为元交流，借用了沃尔夫（Whorf）的术语。
3. 心灵的实质与标准
贝特森在四本书中阐述和讨论了他的心灵和神圣概念：《心灵生态学的步骤》、《心灵与自然，必要的统一》、《天使恐惧，走向神圣的认识论》（与他的女儿玛丽·凯瑟琳·贝特森合作撰写并在他死后出版），以及《神圣的统一：心灵生态学的进一步步骤》（一部死后选编的未发表著作）。相关思想不是以统一的方式呈现的，而是散布在这些书籍中。
这篇文章深入探讨了Gregory Bateson的思想，特别是他关于心灵（mind）、学习（learning）和神圣性( sacred) 的概念。Bateson反对传统的二元论，特别是笛卡尔关于心灵和物质的区分。他提出了一个非二元的心灵概念，强调心灵与自然界的统一性。Bateson认为，心灵是一个由相互作用的部分或组件组成的集合，这些部分之间的互动是由差异触发的，并且与信息的传递有关。
Bateson提出了六个判断心灵过程的标准，包括相互作用的组件、差异触发的互动、需要辅助能量的过程、循环或更复杂的决定链、差异效应的转换以及逻辑类型层次的描述和分类。
关于贝特森的心灵判断的标准，请参考上篇《贝特森：心灵的本质及其标准》。
根据上述六个心理过程标准，贝特森明确指出心理过程的本质是数字化的（digital）。这是因为心理过程需要编码的差异变换。这些变换反过来需要进行区分，通过区分阈值两侧将任何模拟值转变为数字值。他观察到，在动物中，“中枢神经系统和DNA在很大程度上（或许完全）是数字化的(digital)，但其余的生理过程是模拟的(analogic)”。
4.心灵的生态
贝特森对心理过程的标准是直截了当的，并且很容易接受，至少对于那些同情他非二元主义出发点的人来说是如此。然而，这些标准具有不立即显现，并且确实令人震惊的含义。贝特森认为，任何具有适当因果回路复杂性和适当能量关系的持续事件和物体集合肯定会表现出心理特征。也就是说，它会响应差异（除了受到普通物理“原因”的影响，例如冲击或力量）。它将“处理信息”。
因此，贝特森将“许多人不认为是思维过程”的一些现象包括在心理过程的类别中，包括胚胎学、进化以及“所有那些在生物体内部和生物体之间发生的信息和指令的较小交换，总称为生命。”
他暗示，这是拒绝二元论心灵和物质观的逻辑结果。为了理解这些心理过程，他提出了心灵生态的概念，这在生态学意义上是生态的，因为它涉及各种心理系统及其环境之间的相互关系和依赖性。在他看来，在解释人类或其他生物的行为时，“这个‘系统’通常不会与‘自我’——这个术语通常（并且各不相同）理解的界限相同。” 他以用斧头砍树为例，每一斧都根据树的切面形状进行调整。他将心理过程描述为 （树的差异）-（视网膜的差异）-（大脑的差异）-（肌肉的差异）-（斧头运动的差异）-（树的差异），等等。传递在回路中的是“什么是差异的变换”。如上所述，产生差异的差异是一个想法或信息单位。
5. 建立在心灵生态学之上的学术路径
贝特森是一个独特的人物，但他并不是完全孤独的。也有很多人追随他，认为心灵不包含在大脑中，并且有一条与此相关的脆弱线索延续至今，需要在此简要讨论以为我们的讨论提供背景。 在一本极具影响力的著《具身心灵》（1991年）中，瓦雷拉、汤普森和罗施写道，通过具身他们的意思是： ……首先，认知取决于来自拥有各种感知运动能力的身体的经验，其次，这些个体的感知运动能力本身也嵌入在一个更广泛的生物学、心理学和文化背景中。
这种观点显然与贝特森的心灵生态学有很多共同之处。瓦雷拉和汤普森都意识到贝特森的思想，尽管他们在书中没有引用他。埃德温·哈钦斯分析了船上团队的导航过程，并得出结论：“导航任务的核心计算通过跨表示和表示媒介的信息传播来完成。”他认识到贝特森的影响，关注信息传播超越个体界限的映射，写道：“我从格雷戈里·贝特森那里获得了认知架构的基本概念和分析单位的感觉。”
1998年，安迪·克拉克和大卫·查尔默斯写了一篇有影响力的论文《扩展心灵》（The Extended Mind），建立在瓦雷拉的思想基础。近年来，对“4E认知”的兴趣有所增加，它将吉布森、瓦雷拉、哈钦斯和查尔默斯的思想“归为一类，并将它们视为一致地反对内在主义、大脑中心的认知主义观点” 近年来，关于植物认知的讨论也非常活跃，或者也许更准确地被称为植物知觉生理学（plantgnosophysiology），这与扩展认知明确相关。这一关于扩展认知的微弱思路现在似乎正在获得一定程度的关注，这使得重新评估贝特森的相关性变得及时，尤其是他的贡献已经被广泛遗忘或忽视。
贝特森与人工智能
文章讨论了人工智能是否能够被认为拥有“心灵”。作者分析了符号人工智能（Symbolic AI）和神经网络，发现它们都不符合Bateson对心灵的标准。尽管神经网络在某些方面更接近Bateson的心灵概念，但它们仍然无法满足所有条件。
1. 符号人工智能
人工智能技术的发展是一段复杂的故事，其中有许多相互交织的线索，本论文将不试图描述这些线索。希望探索这段历史的读者可以参考玛格丽特·博登的《心灵如机器》这本关于该领域的两卷本历史。就目前目的而言，区分基于形式逻辑的系统（在贝特森的生前已存在）和利用神经网络的系统（尽管已经构想出来但尚未实际开发）就足够了。
贝特森在20世纪40年代是控制论建立的核心人物，并且是开创性的梅西会议的主要参与者之一。因此，他对人工智能的持续发展应该非常了解，并认识许多领导人物，包括约翰·冯·诺依曼、沃伦·麦卡洛克和诺伯特·维纳。事实上，人工智能作为一个独立领域是在1956年的达特茅斯夏季研究项目中从控制论中分离出来的，部分原因是与诺伯特·维纳的个性冲突，维纳被认为是控制论的公众面貌。
1957年，赫伯特·西蒙和艾伦·纽厄尔大胆声称，使用启发式问题解决方法的机器将在十年内成为世界象棋冠军，证明一个重要的新数学定理，创作出被评论家接受的具有相当美学价值的音乐，并且大多数心理学理论都将以计算机程序的形式出现。1976年回顾他们的工作时，他们指出这是基于这样一个假设：“一个物理符号系统具备进行一般智能行动的必要和充分手段。”西蒙和纽厄尔采取的方法变得占主导地位，并在1985年由豪格兰德著名地称为“老派好人工智能”（GOFAI）。他认定GOFAI理论的基本主张是：
我们处理事物的智能能力归因于我们合理思考它们的能力（包括潜意识思考）；
我们合理思考事物的能力等同于一种内部“自动”符号操作的能力。
这一传统被称为“符号AI”，我们在此使用这一术语。它也被称为“认知主义”，因为“根据这种观点，认知通过接受环境提供的信息，将其形成可以处理的表征，从而通过活动提供逻辑反应。”这个传统在今天仍然具有重要意义，通常与更新的机器学习方法相结合，在加里·马库斯在其2020年的论文《人工智能的下一个十年》中提出了很多思路。
1972年，当贝特森出版《迈向心灵的生态学》时，符号AI研究人员仍然对其范式的成功充满信心。然而，这也是赫伯特·德雷福斯出版其著作的年份，他在书中论证，一个能够使用自然语言和识别复杂模式的系统需要一个身体，而这样的机器人需要完全不同于现有的数字计算机。 对德雷福斯的书的激烈回应表明，他对符号AI的尖锐批评确实触动了神经。到1979年《心灵与自然》出版时，达特茅斯确立的研究轨迹已经遇到重大问题。贝特森并未参与有关人工智能的激烈讨论，但人工智能研究的雄心和缺陷构成了他思考的重要背景，这与当时的辩论高度相关。
2. 符号人工智能与贝特森的心灵标准
贝特森对心灵的探讨在控制论和人工智能社区中是不寻常的。少数几个以心灵讨论计算机的人之一是西蒙。据麦科杜克报道，他通过在人工智能领域的工作得出了“一个心灵是某种接受程序输入和数据并有一些处理数据并产生输出的过程的概念”。换句话说，对心灵的理解并没有告知西蒙对人工智能的理解，而是人工智能的新兴能力被作为理解心灵本质的基础。
同样，1976年出版的贝特朗·拉斐尔的《思维计算机：物质中的心灵》一书，不仅在标题中宣扬了贝特森所摒弃的二元论，它还避免讨论可能构成心灵的内容。拉斐尔简单地声称，如果计算机成功地模拟了人类在完成任务时所遵循的过程，那么“我们可以将其程序的流程图视为心灵内部工作逻辑的合理指南。”。
贝特森的心灵标准提供了一个视角来审视符号人工智能的主张。显然，1、2和3是满足的，因为运行人工智能应用的计算机是（1）一个相互作用的组件集合，（2）由差异触发，（3）使用附带能量。
标准4、5和6需要更多的考虑。 标准4“需要循环（或更复杂的）决定链” 。在计算机代码中肯定有很多循环，例如在程序执行过程中子程序可能会被频繁调用，每次都返回到起点以便程序可以继续。然而，循环决定链违反了符号操作中应用的形式逻辑，并被常规计算机和符号人工智能视为错误或恶意软件攻击。换句话说，系统被设计成防止程序在响应其自身操作时改变其自身功能或其运行的计算环境。而在生物学中，“许多规律是其自身决定的一部分—贡献于其自身的决定。”
标准5是满足的，因为计算机电路确实涉及先前事件的编码变换。然而，在经典计算机架构中，管理这些变换的规则在没有程序员干预的情况下是不会发生变换的。
标准6是“对这些变换过程的描述和分类揭示了现象中内在的逻辑类型层次结构。”在这方面，西蒙的《人工科学》表明符号人工智能社区非常了解层次结构，西蒙以贝特森可能认可的术语讨论层次结构：……复杂性经常采取层次形式，……层次系统具有一些与其具体内容无关的共同特性。 更符合贝特森的是西蒙的论点，即层次可以采取不同描述级别的形式，评论说单个细胞的遗传描述因此可能与将细胞组装成多细胞生物的遗传描述形式完全不同。
然而，在实际的计算应用中，这些结构仅限于由程序员确定的分支分类树。拉斐尔提出的问题“如果我们希望将知识插入计算机，我们必须表示什么样的概念？” 这种将知识视为独立于知者，可以‘注入’的概念，与贝特森的观点形成了鲜明对比，贝特森认为信息的意义取决于其情境。
由第6条标准暗示的一个更深层次的问题是，它不仅涉及层次结构，还涉及“现象内在的逻辑类型层次结构”。贝特森对逻辑类型的理解是基于怀特海和罗素的《数学原理》。他总结了这些原则：
在正式的逻辑或数学话语中，没有类可以是其自身的成员；类的类不能是其成员中的一个；
名称不是被命名的东西…… 类不能是正确分类为其非成员的那些项目之一…… 如果违反这些简单的正式话语规则，将会产生悖论……
在贝特森看来，生物体内的信息流是逻辑类型化的，但不像程序员定义一组类那样整齐分开。相反，生物体产生了一个巨大而复杂的消息网络 ，其中复杂的逻辑类型关系出现，尽管观察者可能很难识别这些关系。我理解这是贝特森在其标准中使用“内在”一词的含义。
3. 心灵生态中的符号AI
我们在上一节中看到，运行符号AI应用程序的计算机缺乏贝特森的两个思维标准：因果关系的循环链和逻辑类型之间的复杂交互。但是，这并不意味着它们在思维生态中不构成部分。 贝特森认为 ……在任何显示出心理特征的系统中，任何部分都不能对整体有单方面的控制。
换句话说，系统的心理特征是内在的，不在某个部分，而在整个系统中。 接下来出现的问题是，在符号AI应用程序中什么构成了‘系统’。正如看到的，从思维生态的角度来看系统通常不具有与自我相同的界限，而是由信息流在思维生态中的界限所构成。
因此，问题“计算机能思考吗？”和“心灵在大脑中吗？”应该是否定的可能的例外是监控计算机或大脑内部状态的过程）。 更精确地说： ……说计算机的主要业务——将输入差异转化为输出差异——是“心灵过程”是不正确的。
计算机只是一个更大电路的一部分，这个电路总是包括一个人和一个从中接收信息并受到计算机发出的传出信息影响的环境。可以正当地说，这个总系统或合奏显示出心理特征。它通过试错操作并具有创造性特征。同样，我们可以说“思维”存在于大脑内完整的回路中。或者说，心灵存在于完整的系统中，即大脑加身体。或者最后，心灵存在于更大的系统中——人加环境。
讨论拿着拐杖的盲人时，贝特森问这个人的自我从哪里开始。对于贝特森来说，答案是在拐杖的尖端，因为任何其他位置都会“在这个路径上画一条界限，切断决定盲人行动的系统回路的一部分。” 基于此，如果我们在人类与人工智能之间画一条界限，我们犯了同样的错误。
我们现在可以回答“符号AI应用程序有心灵吗？”这个问题。从心灵生态的角度来看，答案是“不，但这不是正确的问题”。更有价值的是问“当一个人与AI互动时，生成的心灵生态结构是什么？”答案将涉及绘制信息流（即区分的编码转换），同时注意它们的逻辑类型和递归因果关系。
4. 神经网络与深度学习
1985年，豪格兰德曾写道“人工智能或多或少忽略了学习”。然而，今天情况并非如此，使用神经网络的‘机器学习’技术，通常采用连接主义方法，已成为大多数人工智能研究的重点，而符号人工智能作为一种成熟的方法仍然具有重要性。 神经网络的历史通常可以追溯到1943年麦卡洛克和皮茨的一篇论文，该论文为神经活动提供了逻辑计算。两位作者都认识贝特森，并在开创性的梅西会议上与他碰面。因此，我们可以假设贝特森会了解他们对人工智能的方法，并在他关于心灵生态学的思考中不会忽视它。然而，鉴于当时神经网络的成就较低，他在写作中没有特别关注这一方面的工作。贝特森的心灵标准不涉及信息流的结构，也不涉及它们通过的材料。因此，关于符号人工智能的心灵讨论原则上也可以应用于神经网络。
然而，自贝特森写作以来，神经网络变得极其强大，并展示了惊人的能力。机器学习方法检查数据集中的输入和输出之间的关系，具体要求如下。
数据（一个历史示例集）。
一组算法将搜索的函数，以找到与数据最佳匹配的函数。
一些适应性评估指标，用于评估每个候选函数与数据的匹配程度。 适应性评估指标被迭代地用来调整函数，以达到与数据的最佳匹配。
“深度学习”一词被用来指代使用分层算法的机器学习方法，每一层都由网络优化。毫无疑问，这样的系统是强大的。它们“控制的操作范围广泛，如标记图像、识别语音、翻译文本、玩策略游戏、预测蛋白质折叠、检测新系外行星、分析fMRI数据以及自主驾驶汽车”，未来的成就也没有限制。
尽管如此，深度学习最令我们关注的方面是其递归结构，其中信息处理的结果会改变处理方式。这需要重新考虑贝特森的标准4和5，这两条标准部分由符号人工智能实现。
贝特森的心灵标准应用于深度学习关于标准4，深度学习应用程序无疑比符号人工智能应用程序具有更大的改变自身功能的能力。然而，这些变化的范围被严格限制在固定架构中的特定算法。与符号人工智能类似，深度学习满足了标准5，即差异的效果是先前事件的变换。然而，问题在于贝特森额外要求的变换规则也应受到变换的影响。在某种程度上，机器学习中递归变更变换函数的实现满足了这一要求。此外，自20世纪60年代以来，‘进化’或‘遗传’算法在人工智能中发展成为一种成熟技术（参见De Jong 的历史概述），这使得对规则进行更大程度的更改成为可能。
然而，作为一名生物学家，当贝特森谈到改变规则时，他无疑在思考进化，正如我们已经指出的，他将胚胎学和进化视为心灵过程。从生物进化的角度来看，深度学习中的进化相对表面化。这是因为决定算法更改的应用程序本身被排除在进化变化之外，系统运行的硬件也是如此。Zaadnoordijk、Besold和Cusack指出，机器学习基于成人学习，但对婴儿认知发展中特定过程的研究可能会产生有价值的技术。这样的发展变化可能会更接近完全实现标准5。因此，深度学习的发展向实现标准5和6迈出了一步，但仍需要人类的存在来满足要求。
5. 学习的层次
贝特森在这一背景下提出了一个敏锐的评论：“问题不是‘机器能否学习？而是给定的机器达到什么级别或顺序的学习？”。
他对学习层次的定义非常明确，并且与IV.B节中介绍的逻辑类型密切相关（参见《学习和交流的逻辑类别》[1]）
1) 零级学习被定义为信息仅在适当时存储和再现，例如学习预约时间。贝特森指出“许多非常简单的机械装置至少显示出零级学习现象”，并补充说“基于零级学习的适应性行为可能具有非常高（但有限）的复杂性”。这种复杂性是可能的，因为在有限和受约束的架构内可以管理许多不同逻辑类型的信息，尽管执行学习的人工智能应用程序被限制在零级学习。
2) 一级学习涉及“适当地描述为零级学习变化的现象类别（如‘运动’描述位置变化）”。在一级学习中，实体在不同时间给出不同的反应。在有机体中，这可能是习惯化或强化的结果。在机器中，一级学习在符号人工智能中是不存在的，但在深度学习应用程序中显然存在。
3) 二级学习，简单来说，就是‘学习如何学习’，例如一个人可能会学习在死记硬背任务中表现得更好。这涉及学习过程的变化，以及识别需要不同反应的新环境。贝特森称其为“分割或标点动作和经验流成环境的方式变化，以及环境标记的使用变化”。他用‘反转学习’实验来说明这一点，其中受试者被教导X=R1，Y=R2。一旦学会了这种关系，关系就会被反转。二级学习体现在受试者识别反转并适应它的能力提高上。
我们的讨论表明，深度学习正在推动实现二级学习，但尚未实现。在深度学习中，没有相当于儿童发展变化，或者通过从完全无知的状态学习数学或乐器来获得全新能力。上述Zaadnoordijk、Besold和Cusack推荐的发展方法表明了深度学习在这方面的可能前进路线。
4)贝特森还讨论了一个相当难以捉摸的三级学习，他将其描述为“即使在人类中也可能是困难和稀有的”，涉及“性格的深刻重组”（“profound reorganization ofcharacter”）。然而，这超出了当前人工智能讨论的范围。
人工智能与神圣性
文章还探讨了人工智能与灵性（Spiritual）神圣性（Sacred）的关系。Bateson认为神圣性是心灵生态学的一个重要组成部分，但他也指出，基于形式逻辑的计算机无法真正地与神圣性互动，因为神圣性本质上是悖论的。
1. 神圣与灵性（Sacred and Spiritual）
本期特别关注人工智能和精神，但贝特森在他的写作中基本上避免使用“灵性”一词。这可能是因为这个词的含义与精神-物质的二元论紧密相连。一个例外是他将圣礼（sacrament）定义为“内在和精神恩典的外在和可见标志”（outward and visiblesign of an inward and spiritual grace）。在这种情况下，他可能作为人类学家描述宗教实践，使用了该领域的术语。无论如何，他从未将灵性作为他讨论现象的解释的一部分。另一方面，神圣是他写作中的一个常见主题。由于将在下面的讨论中变得清楚的原因，他赋予神圣的意义是难以捉摸的，但可以明确两个特征作为起点。
首先，贝特森并没有认为神圣与对世界的科学理解有任何对立，并且他坚信“有强有力的论据支持神圣的必要性，这些论据基于改进的科学和显而易见的认识论。”其次，他将神圣置“包围我们生活的整合的心灵过程之中”因此神圣的概念是我们在本文中讨论的思想的一个组成部分。
2. 悖论与因果关系
贝特森经常提到埃皮梅尼德悖论。 “埃皮梅尼德是一个克里特人，他说，‘克里特人总是撒谎’”——建立在分类和元分类之上。我在这里以引号中的引号的形式呈现了这个悖论，这正是悖论产生的方式。较大的引号成为较小引号的分类器，直到较小引号接管并重新分类较大的引号，产生矛盾 在物理系统中也可以看到同样的振荡，例如在蜂鸣器电路中：
如果在A点接触，则磁铁被激活。
如果磁铁被激活，则A点的接触被切断。
如果A点的接触被切断，则磁铁被停用。
如果磁铁被停用，则接触在A点恢复。
问题在于为什么克里特撒谎者是悖论，而蜂鸣器是日常设备中的一个无问题部分。贝特森认为，答案在于对“如果”一词的意义的混淆，“如果”一词可以指因果关系（如果激活感应磁铁，则钉子会被吸引到它上面）或逻辑关系（如果所有人都是凡人，而苏格拉底是人，那么苏格拉底是凡人）。
因此，当将蜂鸣器电路中的顺序视为因果描述时，它完全有意义，但作为逻辑命题的顺序则完全没有意义。差异在于因果关系中不可避免的时间包含，因此蜂鸣器电路的描述是一系列连续的步骤，每一步都取代了前一步。相比之下，证明苏格拉底是凡人的三段论步骤是同时有效的，并且是永久有效的。贝特森认为，这对计算机有重大影响。 逻辑中的“如果……那么……”不包含时间。
但是在计算机中，因果关系被用来模拟逻辑中的“如果……那么……”，而所有的因果关系序列必然涉及时间。在计算机上运行的代码是一个超越时间的抽象逻辑结构。然而，当代码在数字电路中实例化时，它作为存在于时间中的因果关系序列运行。结果是，正如诺伯特·维纳指出的那样，计算机会遇到克里特人的说谎者悖论，而不是作为悖论，而是作为一个 YES……NO……YES……NO……的振荡，直到它耗尽能量。如果计算机程序员允许这种情况发生，用户将体验到计算机的故障。
除了其他后果外，我们熟悉的计算机，具有逻辑和尊重逻辑类型的基本规则，似乎被排除在贝特森反身和递归心灵过程的意识之外，这种观点在霍夫施塔特关于“奇怪循环”的讨论中得到了详细探讨。
更普遍地，贝特森认为生物系统，包括大脑，是因果关系的网络。此外，生物学、生理学和神经过程以及生态和文化系统中的每一个因果回路“都隐藏或提出了伴随逻辑类型中的错误和扭曲的悖论和混乱。”在实践中，确定有机体活动的某些方面与其他方面处于元级关系是极其困难的。无法在一组逻辑链中呈现此类过程，而不违反怀特海和罗素为排除悖论而建立的逻辑类型规则。
3. 悖论与神圣
隐喻是一种三段论，但它不是由上述苏格拉底的凡人逻辑链接在一起的。贝特森举了一个例子，
草死了
人死了
人是草。
他认为这是生物同源性最好的理解方式，例如，“一种形式上的相似性暗示了关系，就像人类手和蝙蝠翼之间的关系”。这种形式上的相似性不是来源于逻辑连接，而是来源于充满循环和逻辑类型矛盾的庞大因果关系网络，伴随着对因果关系的模糊性以及逻辑类型的层次不清。他还提出这就是诗人思考的方式，我们可以补充说，其他艺术家也是如此。在这一点上，他呼应了他的当代阿瑟·科斯特勒，他的双关联概念分析了所有创造力，认为它们是通过将交叉平面联系在一起，伴随逻辑类别的违反。贝特森在梅西会议上认识了科斯特勒，但强烈反对他的一些观点 。
在我们正常的清醒状态中，我们会对我们的感知进行内部或外部报告，这种状态被贝特森称为散文意识，并且他将其与大脑的左半球联系起来。在这种状态下，我们完全能够将我们感知到的事物标记为符号，例如道路上的停车标志。我们甚至可以将其标记为隐喻，并将该隐喻解析为其组成部分。
但是我们也有其他状态，在这些状态下，手和蝙蝠，或葡萄酒和血液的识别不是用逻辑层次标记的，而是被体验为一种身份。这种思维模式在梦中是熟悉的，也存在于（例如）美学体验、各种类型的恍惚状态、宗教体验和爱的强度中。在这些状态下，地图和领土之间的逻辑类型差异被消解，我们回到了“通过纯粹的情感符号进行交流的纯真”。这种状态是圣礼的“内在和精神恩典”，圣礼是其“外在和可见的标志”。从这个角度来看，圣礼不仅仅是一个隐喻，而是被视为事物本身，例如，士兵们为了拯救一面旗帜而牺牲自己，为了捍卫圣体圣事的信仰而接受殉难。
在我们的内心生活中，以及在我们与环境的关系中，人类参与了逻辑和因果回路，参与了散文意识和超越，以及理性和情感。事实上，悖论是西方社会中最广为人知的圣礼——弥撒的核心，其中面包和酒既是它们自己，也是基督的身体和血液。如何理解这一点？在弥撒期间，面包是否转变为基督的身体，通过它我们可以体验与基督的结合？还是它是基督身体的象征，其沉思可以导致宗教洞察？
贝特森认为“‘神圣’一词最丰富的使用是说，重要的是两者的结合……任何在它们之间的分裂，可以说是反神圣的” 。任何对这种不同视野之间共存的具体例子的分析尝试，都需要用两种不同视角交替观看这种体验，而不是统一的体验，这种交替让我们希望分析的现象消解，类似于计算机对克里特人说谎者的回应。 这种对立统一的结合体验不仅涉及在两种相互不兼容的交互类型的矛盾前提下操作的悖论，还涉及考虑由此产生的组合实体的性质。正因为如此，贝特森说“意识到神圣的本质或美的本质是还原主义的愚蠢”。(To be conscious of the nature of the sacred or of the nature of beauty isthe folly of reductionism.)
从这一立场可以推断出，如果我们要保持“神圣”，某些类型的非交流是必要的。交流是不受欢迎的，不是因为害怕，而是因为交流会以某种方式改变这些想法的性质。
这就是导致贝特森在描述神圣时表现得难以捉摸的原因。他认为这是更广泛现象的一部分，即在所有生命系统中可能存在这样的过程，即“如果这些过程的信息或消息传达到系统的其他部分，整个系统的协作将被瘫痪或破坏” 。
上面概述的概念框架将神圣置于我们所知的人工智能领域之外。任何与神圣的接触都需要对悖论的接触和容忍。目前构想的人工智能应用程序，在冯·诺依曼架构上运行，无法遇到悖论。因此，它们本身无法具备贝特森认为的神圣性的核心，即合并这些视角的心理走钢丝的过程（they cannot, in themselves, engagein the mental tight rope walk involved in the merging these perspectives whichBateson sees as being the core of the sacred）。因此，基于当前设计原理构建的人工智能系统性地无法体验或甚至表示人类心灵的重要方面。这意味着人工智能无法以一种能够替代人类护理人员或教师的方式与人类互动。
在我们关于AI中心灵的讨论中，我们看到，尽管AI本身并不满足心灵的标准，但它可以成为更广泛的心灵生态中的一个重要元素。类似的情况可能适用于神圣。没有理由认为由计算机生成的非凡逻辑结构不应成为神圣的强大组成部分。也许，越来越强大的模拟会带来新的体验神圣的机会，作为一种综合体验的一极。那些发现模拟（包括涉及性或暴力的模拟）可能与神圣相关的读者，应当记住，拉丁词根“sacer”不仅指圣洁和纯洁的极端，还指不圣洁和不纯洁的极端。
结论
将贝特森的思想应用于AI并不是为了构成对围绕AI的难题的解决方案。也并不意味着所获得的洞察取代了贝特森去世后进行的其他工作。然而，提议认为贝特森的思想中有一些有价值的特征，可以为当前关于AI的辩论提供信息。
首先，贝特森的工作有着坚实的基础。他的分析从信息本质的明确陈述开始，但相比之下，许多AI文献对此保持沉默。同样，贝特森在拒绝二元论时是严格的，并将其对心灵本质的影响贯彻始终。在构建AI应用的实际任务中，这些问题的模糊性可能是也可能不是问题，但阅读贝特森的作品表明，这种模糊性是概念化这些应用所生成现象的障碍。无论是否同意贝特森的观点，他立场的令人钦佩的清晰性提供了一个榜样，可以有效地告知当前试图改善我们对AI是什么以及人类如何与之互动的理解的尝试。
其次，贝特森提供的解释是功能性的，他将事物的属性归因于它们的结构。因此，原则上没有障碍阻止AI实现人类的心灵能力。我们在本文中识别出的AI限制与我们所知的计算机结构有关，以及我们目前能够想象的计算机结构。完全有理由认为贝特森会同意查尔默斯的观点，即大脑的神经描述，转化为组合状态的自主体，将会有与大脑无法区分的体验。神经网络在这一方向上取得了一定的进展，拥有越来越复杂的神经元行为模型，参见例如，进一步的进展肯定是可以预期的。在这种情况下，贝特森的思想可以通过关注机器学习中表现出的学习水平以及如果AI要成为其有机对应物所需的适应性变化范围，做出宝贵的贡献。
第三，正如丹宁和泰德简明扼要地指出，在深度学习应用中，里面只有一个难以理解的复杂连接网络。这一深度学习的方面引人入胜，因为它使AI向贝特森描述的有机大脑中同样难以理解的纠结信息网络的方向移动，在这种网络中，逻辑类型的复杂关系是潜在的。然而，运行深度学习应用的算法的相对刚性的分层似乎阻碍了在深度学习应用中的连接网络中递归的发展。撇开出现的复杂架构问题不谈，贝特森的思想表明，探索在机器学习连接网络中放松递归禁令并确实鼓励递归的结果将是有趣的。
最后，贝特森的心灵生态中最具挑战性的方面之一是，心灵不仅限于有机体或机器的物理边界，而是限于构成心灵的信息流的边界。然而，这一观点的替代观点同样难以吸收，即心灵是由大脑中存在的某种非信息流的精神物质构成的，或许在AI中也存在，但我们尚未检测到。心灵生态中的某些节点显然比其他节点更强大。当我与一只狗互动时，我意识到我具有狗所没有的心灵能力（尽管它无疑具有一些我缺乏的重要能力，例如与嗅觉相关的能力）。我与我正在输入这篇文本的计算机互动时也是如此。因此，从贝特森的角度来看，寻找和潜在神化离散的超级心灵是一种误导。
无论未来发展出什么，它都将与所有接触到的有机体和AI一起参与到心灵的生态中。事实上，从贝特森的角度来看，很难看到没有这种信息流网络的AI如何能有用或有效，无论是在生态系统的组件内部还是之间。然而，正如人类在能量生态中是顶级掠食者一样，他们也是心灵生态中信息流的顶级节点。由库兹韦尔普及的奇点建议，一旦AI超过人类能力，它将以指数速度超越我们，并变得超人化。对于这种超人实体可能选择对其始祖做什么，存在可以理解的担忧。但贝特森的著作建议我们提出另一种问题，这种问题不应等到假定的奇点到来后再提出。我们当前的主要关注点应该是“日益增长的AI能力对心灵生态的影响是什么，以及这如何改变人类在该生态中的生态位。
编译文献：Griffiths, D. (2021). Artificial Intelligence Seen Through the Lens of Bateson’s Ecology of Mind. International Journal of Interactive Multimedia and Artificial Intelligence, Vol. 7(1).
[1]The LogicalCategories of Learning and Communication ），出自G. Bateson, Steps toan Ecology of Mind, 2nd ed. Chicago, IL: Chicago University Press, 2000, firstpublished 1972.
