清华逻辑随笔｜刘奋荣、李大柱：社会网络逻辑在中国的十年简史

清华逻辑随笔（Tsinghua Logic Blog）是清华大学逻辑学学生和老师共同创办的栏目。其上会不定期以随笔的形式刊登同学或老师近期对逻辑相关学术内容的所闻所想。这个栏目希望提供一个学术发表之外非正式的平台，促进大家进一步学习和交流。未经作者同意，禁止使用任何形式转载或发表随笔中的内容。刊登的文章难免有疏漏之处，欢迎大家进一步讨论交流和批评指正，形成良好的学术交流环境！

网址：http://tsinghualogic.net/JRC/?page_id=3812

点击文末 |阅读原文| 可直接访问pdf版本

本文译自 Asian Studies X (XXVI), 2 (2022)：121–146，译者杜鹏昊，清华大学人文学院哲学系博士生。中文原文于2023年发表于由中国社会科学出版社出版的《逻辑学动态与评论》第二卷第一辑，主编张建军。

社会网络逻辑在中国的十年简史

刘奋荣¹  李大柱²

（1.清华大学人文学院哲学系；2.中国科学院大学哲学系）

摘  要：本文介绍了社会网络逻辑在中国的十年发展史，讲述了这个新的研究领域是怎么开始的，它的研究议程是如何展开的，特别是其中的图博弈研究是如何发展的。本文还总结了该领域重要的思想和研究成果，揭示了它们之间的联系。这段发展历史的一个显著方面是中国学者和国际同行之间的成功合作。

关键词：社会网络逻辑；同辈压力；图博弈；动态；共识

一 社会网络逻辑研究的开始         

2010年，奥克兰大学的逻辑学家谢立民（Jeremy Seligman）在北京的清华大学度过了两个月的学术休假。期间，他讲授了一个关于“情境理论和渠道理论”的短期课程，并与刘奋荣进行了几次研究讨论。他们俩的背景有些类似，都受到了现代逻辑的教育，却对中国哲学有着浓厚的兴趣。当时，他们提出的问题是：我们能否建立一个刻画中国传统推理特征的逻辑呢？换言之，我们能否将中国哲学的一些有趣概念融入到现代逻辑的研究议程之中呢？例如，儒家对社会角色、社会关系和等级制度等问题有着非常深刻的思想，而这些思想也影响了中国人很多年，在人们的推理和社会互动中发挥着重要的作用。正是这个动机促成了第一篇合作论文“Logic in the Community”。[1]这篇论文的另一个作者是谢立民在奥克兰的同事吉拉德（Patrick Girard）。[2]

论文“Logic in the Community”的行文很像一个研究计划，阐述了作者们在接下来的几年里想要研究的问题。这篇论文以“关于社会关系的推理”一节开始，其中包含了对这项工作的描述 (p.178)：         

社群（community）是由扮演社会角色并被社会关系联系在一起的个体构成。在社群中，个人会推理彼此的信念、知识和偏好。知识、信念、偏好，甚至是社会关系都在不断变化之中。我们跟踪这些变化的能力也是一个社群的重要组成部分。在过去的50年里，关于知识、信念和偏好的推理模式已经得到逻辑学家们的深入研究，但对于社会关系及其影响的推理则很少有学者关注。

从上面的引文已经可以看出社会网络逻辑的研究蓝图。它建立在传统模态逻辑的基础上，但特别关注个体及个体之间的社会关系。除了用于知识、信念和偏好的动态逻辑外，社会网络逻辑引入了第二个维度——社会关系。这篇论文强调了许多有趣的问题，如“脸书好友”、“遵从专家意见”、“同辈压力”、“社群规范”等。它还给出了二维逻辑研究方法的基石：一个维度代表每个人的认知空间: 人们认为可能的情况（或“世界”）；另一个维度是每个人所处的社群：其他一些与他们可能有密切或疏远的社会关系的人。      

社会网络逻辑（更具体地说，社会认知逻辑）的概述将在下一节中给出。在第3节和第 4节中，我们将回顾关于这一逻辑的后续研究。第5节将考虑一些密切相关的研究方向，第 6节将介绍一些受博弈研究所启发的新方向的主要结果。第7节，我们将简要讨论社会网络逻辑的国际研究现状并进行总结。    

二 认知逻辑中引入社会维度

认知逻辑在标准命题逻辑中加入了模态算子K，公式Kφ可以解释为 “我知道 φ” 或更客观地解释为 “φ是知识”。认知逻辑的研究起源于二十世纪早期卡尔纳普（R. Carnap）和普莱尔（A. Prior）等人的工作，关于认知逻辑的开创性论文由冯瑞赫特（G. H. von Wright）于1951年完成。认知逻辑在辛提卡（J. Hintikka）的《知识与信念：一个关于这两个概念的逻辑的介绍》（1962）中第一次以专著的形式进行介绍。关于认知逻辑的大量早期工作集中在关于K算子的逻辑有效式上。因为知识蕴涵真，所以公式Kp→p自然被认为是有效的，但是表示“如果知道一些事情那么我知道自己知道这些事情” （Kp→KKp） 或 “如果不知道一些事情那么我知道自己不知道这些事情” （¬Kp→K¬Kp）的“自省”原则的有效性相较于 “Kp→p” 存在更多的争议。信念算子B与K算子相似，二者可以自然地用不同的逻辑性质进行区分。      

在20世纪80年代和90年代，人们对认知逻辑的兴趣日渐浓厚，这在很大程度上是因为它与计算机科学以及软件中的知识表示相关。一个重要的发展是给认知算子增加知道者名字的索引：[3]即Kₐφ被解释为 “a知道φ”。由于在计算机系统中的应用，知道的人一般被称为 “主体”（agent），我们将在下文采用这个术语。

认知逻辑的公式的意义可以用克里普克语义学给出，点集（世界集）W表示相关事实的不同状态，这些事实可以是关于对象及其属性的客观事实，也可以是谁知道什么的认知事实。这种表示是通过一个将命题变元映射到W子集的函数V实现，W的点之间的二元关系用 R来表示。V(p)被解释为p为真的世界的集合，而Ruv被解释为在世界u中，主体在认知上还没有排除v是一种可能性。换句话说，主体不知道她是在世界u还是在世界v（或与u存在R关系的任何其他世界）。这些元素共同构成了一个认知模型M = ⟨W, R, V⟩。通常，我们会对R关系设定进一步的约束：自返性，传递性，对称性等等。模型、世界与公式之间的一个可满足关系可被递归定义为：    

M, w⊨Kφ当且仅当 如果Rwv，那么M, v ⊨φ 

这里M, w⊨φ读作 “在M中w满足φ”，意思是φ表达了一个在模型M中的世界w上为真的命题。例如，如果M, w⊨ (p∧¬Kp)，那么在世界w上，p为真且不知道p为真。一个公式是逻辑有效的当且仅当它可以被每个模型的每个世界所满足，这就是为什么要对关系R进行限制的原因。例如，为了使Kp →p在逻辑上有效，关系R必须是自返的。这是模态逻辑研究中的基本内容，在下文中我们假定读者知晓一些基本概念（不熟悉模态逻辑的读者应该参考合适的教科书[4]）。

为主体集合中的每个主体a分配一个认知算子K_a就可以得到“多主体”认知逻辑。进而，模型M = ⟨W, R, V⟩包含了每个主体a的关系R_a，可满足关系定义与之前的基本相同：

尽管如此，多主体认知逻辑比单主体情形要有趣得多，因为它可以表达“高阶”的认知事实：一个主体知道另一个主体所知道的，或所不知道的。例如，Kₐ¬K_bp表示a知道b不知道p,。此外，通过扩展语言，我们可以推理群体（group）的公共知识 [5]，并且，通过添加一系列可以改变模型的“动态”算子，我们可以推理在多种交流行为下知识的改变。[6]

社会网络逻辑，特别是论文“Logic in the Community”中提出的社会认知逻辑，一定要在认知逻辑研究的背景下来看。[7]这篇论文的创新之处在于为模型增加了一个维度：社会维度。不同于在世界上对公式赋值，这个新想法是在由一个世界w和一个主体a组成的二元组(w, a)上对公式赋值。在这个新系统中，一个公式表达了一个“主体索引”命题：(w, a)满足φ解释为从主体a的角度来看φ在w中为真。例如，用p来表示主体索引命题“我处于危险之中”，那么M, w, a⊨p被解释为在世界w中，主体a处于危险之中。因此，前面给出的可满足关系的定义被修改，以适应这种二维框架：

注意关于K算子的最后一条，这里没有必要去对K算子进行索引，因为知识对于主体的相对性可以用主体索引命题来体现。    

这种逻辑上的转变伴随着对语言的两个主要扩充。第一个是算子F，它对应于主体之间的社会关系S。如论文“Logic in the Community”所述，我们将其解释为“朋友”关系，尽管这可以代表任何二元的社会关系，或者人与人之间的任何二元关系（后来的应用包括将F解释为“看到”关系）。通过对比下面包含算子F公式的解释，我们能够更好地理解算子F的意义：如果p仍然表示 “我处于危险之中”，那么KFp说的是我知道我所有的朋友都处于危险之中，而FKp表示我所有的朋友都知道他们处于危险之中。F的德摩根对偶算子 (即¬F¬) 被写成 ⟨F⟩，所以 ⟨F⟩p解释为我有一个朋友处于危险之中。满足关系定义中与F对应的那条定义如下：

M, w, a⊨Fφ当且仅当 如果S_wab，那么M, w, b⊨φ        

正如所看到的，关系S事实上是关系的集合，对W中的每个w都有关系S_w。这种设置是因为社会事实可能在不同的世界之间有所不同，换句话说，某些社会事实可能被一些主体知道，而其他主体却不知道。

第二个补充部分涉及到对主体的指称。在标准认知逻辑中，没有必要区分主体及其名字。事实上，这也是不可能做到的。主体仅在语法上作为K算子的索引被表示。在社会认知逻辑的模型中，因为他们是“在模型中”的，所以可以进行区分。因此，该语言被扩充以包含多种处理主体指称的方法：

·首先，名字n、m等指称主体，但不一定是严格指称：它们在不同世界中可能指不同的主体，所以允许不知道主体名字的情况出现。事实上，在名字n和主体索引命题“我是n”之间并没有什么区别，所以，例如 ⟨F⟩n解释为n是我的朋友。

·其次, 名字可以作为一个新算子的指示词来转换视角：@_nφ表示φ命题对名字为n的主体为真。因此，例如，@_nKp说的是主体n知道p，（与标准认知逻辑中的K_np相同）。    

这三种指称方法都是混合逻辑的不同变种。[8]我们知道，混合逻辑是模态逻辑的扩展，其最初的想法源于普莱尔，后来在不同方面得到发展，共同产生了一个表达力丰富的语言，可以陈述许多关于主体的社会和认知性质的命题。

有许多方法可以给出混合逻辑的语义，这里我们选择一种相对容易理解的版本。由于主体的名字是一种特殊的命题变元，我们允许赋值V对每个名字n给出一个世界和主体的二元组，(w, a)∊V(n)当且仅当名字n在世界w中指称主体a。换句话说，这里需要对V设一个限制，只能有唯一的a使得(w, a)在V(n)中。这样，我们可以给出对名字和@算子的可满足关系定义：         

M, w, a⊨ @_nφ当且仅当 有唯一的b使得(w, b) ∊V(n)成立且M, w, b⊨φ

与谓词逻辑类似，对变元的不同的解释导致公式的不同含义。这里，为了介绍的完整性，我们使用指派函数g作为参数来定义可满足关系。赋值函数将主体指派给变元，并且通过↓算子考虑赋值的变化：         

M, g, w, a⊨ ↓x.φ当且仅当M, g’, w, a⊨φ，其中，如果y=x，g’(y) = a；否则g’(y) = g(y)

以上是论文“Logic in the Community”所设想的社会认知逻辑的基本轮廓。关于这个新逻辑的应用领域，我们将在下文中进一步介绍。下一节我们将重点介绍刘奋荣、谢立民和吉拉德和他们的学生对这一逻辑的研究和推进, 既包括在中国开展的合作研究成果，也包括中国学生在海外研究的成果。

三 社会认知逻辑的发展

在“Logic in the Community”提出之后，刘奋荣、谢立民和吉拉德接着研究社会认知逻辑的动态扩展。关于动态的考虑，在以上的论文中已经有简要的讨论。但在2013年，他们合作的TARK会议论文“Facebook and the Epistemic Logic of Friendship”深入研究了动态的信息交流。在传统的动态认知逻辑中，交流行为被处理成改变认知模型的算子，通常是通过添加和删除可能世界及其R关系的边来实现。这可以刻画交流对主体认知状态的影响，不仅意味着接收信息者的认知状态更新，对那些没有接收到信息的主体或只知道部分信息的主体而言，也带来了额外的不确定性。这篇TARK论文的核心概念是社会宣告。这是一种考虑到交流主体本身的视角的行为，即信息发送者的角度和信息接收者的角度。同时，“朋友”关系扮演一个信息通道的作用。例如，我可能会告知我的朋友我处于危险之中。这是关于我的索引信息（从我的角度来看），发送给我的朋友，他们的知识中因而更新了关于我的非索引信息（“她处于危险中”）。该论文定义了各种社会宣告，并使用他们在其他场合提出的动态认知逻辑的一般化版本GDDL对其进行了建模。[9]另外，论文还研究了改变社会关系的算子，例如删除老朋友和添加新朋友。论文讨论了在社会交流中两种常见的动态行为：提问题和回答问题。此外，还讨论了包含索引词的公共知识概念的不同版本。

当时，社会认知逻辑的一些基础工作还有很多开放的问题有待研究。特别是，该逻辑还没有一个完全的公理化。日本北陆先端科学技术大学院大学研究员佐野胜彦（Katsuhiko Sano）在一次访问清华大学的时候，与刘奋荣和谢立民讨论，他表示社会认知逻辑与他自己研究的二维模态逻辑[10]有很强联系。他对根岑矢列演算进行扩展，扩展的结果称为“超矢列演算”，进而运用“超矢列演算”为社会认知逻辑（不包含算子 ↓）提出了一个证明系统，并证明了其完全性。该结果2017年发表。[11]克里斯托夫（Christoff）、汉森（Hansen）和普罗耶蒂（Proietti）在2016年发表的论文中，为一个相似的逻辑提出了一个表列证明系统。但是通过标准希尔伯特方法对该逻辑进行公理化的工作由梁真完成。梁真在中国西南大学硕士毕业，到奥克兰大学攻读博士，导师是谢立民教授。他对完整的语言（包括 ↓）进行了公理化, 证明了其完全性，这个结果在他2017年的论文中提出，[12]在其博士论文中有详细证明。[13]

我们不会在这里详细阐述梁真的证明技术细节，但有必要快速浏览一下文章内容，以了解与国内其他研究的联系。我们知道，证明模态逻辑公理系统完全性的标准方法是为该语言构建一个“大”模型，通常被称作“典范模型”，所有其他模型要么是它的一部分，要么是从它的一部分中提取出来。正如梁真的博士论文中所解释的，构建社会认知逻辑的典范模型不容易做到。他采用了一种由徐明在1988年提出的技术方法。[14]徐明曾使用分阶段“逐步（step by step）”构建模型的方法证明时态逻辑一些公理系统的完全性，而这种技术对梁真的社会认知逻辑公理化也是适用的，尽管在处理 ↓ 算子时出现了一些复杂情况。同时，最新的文献表明，通过典范模型方法证明社会认知逻辑的完全性由冈萨雷斯（Saúl Fernández González）给出。[15]    

梁真的博士论文还包含了社会认知逻辑的一个新应用，其中社会关系S被解释为“看到”关系。在这种解释下，我们能对社会环境的有趣问题和场景进行逻辑建模和分析 (例如，认知心理学中常见的多数无知现象)。

此外，曾就读于西南大学的学生熊作军在社会宣告逻辑上也取得了一些进展，他在挪威卑尔根大学阿戈特内斯教授（Thomas Ågotnes）的指导下攻读博士学位。他与阿戈特内斯、谢立民和奥克兰大学另一位博士生祝瑞的合作论文中，研究了任意社会宣告算子 ⟨a⟩φ的逻辑，⟨a⟩φ解释为主体a向所有“朋友”宣告他相信的某事之后，φ成立。这部分的研究成果在2017年发表，[16]后来在他的博士论文中对该部分进行了实质性扩展。另外，在谢立民指导下，祝瑞也在他即将完成的论文中进一步发展了这一逻辑。[17]

四 从高等理性到低等理性         

虽然最初对基于社会关系的逻辑的探索与知识相关，但二维框架同样适用于研究其他认知态度，如信念和偏好。受刘奋荣早期关于偏好动态逻辑的启发，[18] 当梁真还是西南大学硕士生时，他运用社会认知逻辑来研究关于偏好的推理，来理解一个广为人知的社会学现象：同辈压力。在谢立民访问西南大学期间，他们合作完成了一篇论文“A Logical Model of the Dynamics of Peer Pressure”，该论文使用一个对社会关系敏感的偏好动态算子来建模同辈压力。根据“朋友们”的偏好，一个主体会接受更强或更弱的建议。一个关于α好于β的弱建议会使他们失去对β的任何偏好，但一个强建议会使他们更喜欢α。尽管这些变化在高等理性下能够通过类似DEL的方法建立模型，但对模型的分析表明，使用网络自动机更简单、直观。网络自动机是一个社会网络（如下图），每个节点上运行一个有限状态机：[19]    

图1

使用网络自动机模型研究社会现象的有利之处在于，可以分析社会行为变化的渐近模式，譬如，主体的偏好变化最终会稳定、还是分裂，抑或是进入某种振荡模式。他们的论文提供了分析的实例。

不久之后，网络自动机的方法被用于对信念变化的研究，信念在社会影响下发生变化与偏好的变化类似。在“Logical Dynamics of Belief Change in the Community”一文中，刘奋荣、吉拉德和谢立民使用图中所示的自动机来描述对信念的强影响和弱影响的动态变化。[20]Wp解释为主体受到了弱影响去相信p，Sp解释为主体受到了强影响去相信p。箭头显示了在什么条件下，它们将从相信p（Bp）到不确定是否相信p（Up），再到相信p是假的（B¬p）。文章讨论了多种影响模式以及这些模式对社会关系的潜在影响。    

图2

他们的论文研究的另一个问题是影响的对象。在一种情况下，有对特定意见的具体影响，例如给定命题p的真假情况。另一方面，有因为信任度引发的影响，这可能对一个人的信念判断产生很小的影响，但足以使一个人倾向或远离一个特定的信念；或者，也有可能即使是非常大的影响也不足以改变一个人的信念。

使用网络自动机对信念改变的理性行为进行建模，在逻辑学界中引发了一些争议。逻辑学传统上被认为是一门纯粹的规范学科，研究者们通过仔细思考、建立模型，寻找通往真理之路。由网络自动机建立的社会影响模型显然缺乏这种规范功能，至少目前的这些批评都是这样说的。然而，我们生活在社群中，我们的观点深受他人的影响，并非我们所做的每一个决定都完全基于我们所能获得的证据。而且，有些社会影响的传播机制比其他机制更好，或者在规范意义上更好。个人慎思的规范和社会机制之间的对比是斯克姆思（Brian Skyrms）所说的“高等”和“低等”理性的一个典型例子。[21]在个人心理层面上，我们有能力对这两者都做出反应，而人类的灵活性是，知道什么时候去认真思考，什么时候不需要，这是我们主体性最大的优势之一。卡内曼（D. Kahneman）称这是“慢思维”和“快思维”之间的区别[22]。    

五 研究内容的扩展

在2017-2020年期间，社会网络逻辑在中国的进一步研究得到了中国社科基金的大力支持，该项目的子课题负责人有刘奋荣、范丙申（Johan van Benthem）、谢立民、廖备水和刘新文，项目汇聚了大约25名国内外研究人员和学生作为参与者，共同解决该领域的各种问题。除了继续先前提出的各种问题外，还提出了一些新的挑战，其中包括如何将社会网络逻辑与博弈联系起来。下一节我们将讨论这些想法。下面我们回顾其他的一些新的研究课题。

从社会情境里证据和信念之间的联系开始，刘奋荣和洛瑞尼（Emiliano Lorini）在合作论文“Reasoning about Belief, Evidence and Trust in a Multi-agent Setting”中研究主体如何从其他主体那里得到支持给定事实φ的证据，支持φ的证据如何成为主体相信φ的理由。[23]这篇文章提供了证据与主体之间的信任、证据与信念之间相互作用的逻辑。这个新逻辑可以推理主体信念的形成和由于新证据而导致信念的变化。从这个角度看，一个主体是社会性的：她与其他主体有联系，并通过接收来自其他主体的信息且向他们传递信息来进行交流。信任是主体接受其他主体提供信息的必要条件。该逻辑的核心假设是，如果主体要形成一个“φ为真”的信念，需要注意以下两个方面：第一、支持φ的证据数量；第二、支持φ的证据数量占支持φ和支持其否定的证据总量的比例。    

在标准的多主体认知逻辑中，主体名字被隐含地假定为常识。这是因为在公式Kₐφ中，表示主体a知道φ，a是一个严格指示符；它在每个认知选择中都有相同的表示。这在某些社会环境中是不合理的。王彦晶和谢立民就此问题完成了他们的论文“When Names Are Not Commonly Known: Epistemic Logic with Assignments”，其中他们考虑了以下的有趣场景：[24]

一个风雨交加的夜晚，亚当被袭击并杀害。攻击他的人鲍勃逃跑了，但被一个路人查尔斯看到了，他从头到尾目睹了罪行。这很快导致鲍勃被捕。当地新闻报道了这个故事，这就是戴夫第二天在吃早餐时听到的故事。现在，从某种意义上说，我们可以说查尔斯和戴夫都知道鲍勃杀了亚当。但他们对这个事实的了解有所不同。虽然查尔斯目睹了犯罪，并能够向警方认出凶手和受害者，但他可能不知道他们的名字。如果被问到“鲍勃杀了亚当了吗？”他可能并不知道。然而，这对于戴夫是一个很容易回答的问题，尽管他不知道亚当和鲍勃是谁，他也不太可能在人群中认出他们。

“查尔斯知道鲍勃杀了亚当”的从物和从言解释在标准认知逻辑中很难区分。这篇文章提出了一种认知的扩展，即使用非严格名字，严格名字、严格变元和赋值算子形式的组合，例如 [x:=a]φ解释为在x被赋值为名为a的主体后φ成立。例如 [x:=b]K_ckill(x,a) 解释为查尔斯知道鲍勃杀了亚当, 这并不表示查尔斯知道鲍勃是谁。该逻辑的主要的技术结果是对S5模型的完全公理化。

石辰威在他最近的论文“Collective Opinion as Tendency Towards Consensus”中研究了社会网络中集体意见的形成。论文引用了伯尼斯（E.L. Bernays）1928年完成的《舆论》一书中关于社会影响的内容：“我们是被统治的，我们的思想是被塑造的，我们的喜好是被引导形成的，我们的想法是被指引产生的，所有的这些主要是由我们从未听说过的人所影响的。”[25]这篇文章将对作为群体过程的全局视角和局部主体驱动的全局视角进行区分，主要思想可以总结如下：             

其次，无论是趋向收敛还是其他结果，一个群体的影响结构（每个群体成员如何受到他人的影响）是长期意见行为的唯一关键决定因素。         

文章的主要技术性结果是给出了群体意见收敛的结构性条件。

在“关于社会网络中主体行为的推理和预测”一文中，刘奋荣和谢立民区分了两种社会影响模式：单向影响和相互影响。[26]单向影响模式下，该文表明通过逻辑演算的推导，我们可以预见某些特定行为的扩散模式，因而可以做出预测。在相互影响模式下，文章定义了两个稳定性的概念，具体用于我们想要预测某些行为的传播过程：第一、主体行为稳定性：如果一个主体在任何新的影响下都不会改变行为，那么主体的行为是稳定的；第二、网络稳定性：如果每个主体最终都稳定，网络就会稳定。

社会心理学中有许多分析社会网络的方法，其中之一就是平衡理论。该理论描述了一个有符号标志的社会网络，包含两种关系：正关系（“朋友”）或负关系（“敌人”）。为了将这种网络分析与逻辑研究联系起来，熊作军和阿戈特内斯在他们的论文“On the Logic of Balance in Social Networks”中提出一种模态逻辑来推理这种社会网络的结构特性。如果没有长度达到n且具有奇数个负关系的循环，则这个社会网络在n度上是平衡的。他们对所有连通的平衡社会网络（每个人都与其他所有人相连的网络）给出了完全公理化。[27]    

在同一方向，王轶与他的合作者范德胡克（Wiebe van der Hoek）和奎尔（Louwe B. Kuijer）研究了社会网络逻辑及其与平衡理论的联系。他们在论文“Who Should Be My Friends? Social Balance from the Perspective of Game Theory”中，定义了平衡博弈，描述了社会网络中友谊和敌意的形成。[28]他们的有趣结果是，如果主体重视长期收益，所有帕累托最优策略最终都会产生一个平衡网络，如果他们优先考虑短期收益而不是长期收益，每个纳什均衡最终都会导致一个可能不平衡的稳定网络。在他们合作的另一篇论文“Logics of Allies and Enemies: A Formal Approach to the Dynamics of Social Balance Theory”中，将社会平衡理论与时间逻辑相结合，得到了盟友和敌人的逻辑（LAE），LAE可以描述由于社会压力导致社会网络的动态变化。他们也证明了LAE的模型检测和有效性检测都是PSPACE-完全的。[29]

六 图博弈逻辑

定义1（破坏博弈）.破坏博弈在图上进行，包含起始节点和目标节点或目标区域：每一轮，破坏者首先在图中的任何位置切断一个边，然后另一个玩家（旅行者）沿着它站立的地方仍然可用的一条边进行移动。如果到达目标节点，则旅行者获胜; 如果该情况没有发生，并且旅行者无法再移动，破坏者获胜。  

在迄今为止的研究讨论中，社会网络一直处于中心地位，其被明确地建模为一组主体和一个或多个社会关系。这些网络的图形结构显然可以通过模态逻辑进行研究。因此，这里需要强调的是，我们可以使用模态逻辑研究任何“图博弈”的图形，并可以定义算子来刻画玩家可以采取的行为，这些行为导致它们状态的变化。事实上，在2005年，范丙申已经在他的论文“An Essay on Sabotage and Obstruction”中提出了蓄意破坏博弈的模态逻辑（SML）。SML在标准模态语言基础上附加了切割边的模态算子♦：◊φ解释为“旅行者能够移动到φ的节点”，而 ♦φ解释为“存在一条边在破坏者切断它后满足φ。论文使用这个语言分析了蓄意破坏博弈，并研究了包含两个玩家的图变化的推理。

在清华的短期课程中，范丙申和刘奋荣介绍了各种新的图博弈，并首次尝试将它们与模态逻辑和动态逻辑联系起来。这个想法促成了他们的论文“Graph Games and Logic Design”。[31]这篇论文提出了使用逻辑语言作为分析博弈的工具和设计新博弈的方法。文章讨论了一系列不同类型的图博弈：旅行博弈、蓄意破坏博弈、相遇/回避博弈和占领博弈，还提出了博弈规则的一些参数，具体分为两个层次：博弈结构（移动方式、回合、目标）和图结构（进行博弈的棋盘）。关于移动方式，可以做出以下区分，以破坏博弈为例：

·玩家可以停留在一个图中，或者还是可以跳转到一个改变过的图中呢？         

关于博弈输赢条件的规定，也有不同的可能性：

·第一，目标区域是玩家必须避免或想要进入的区域。这相当于指定了图中特定节点的一个一元属性。

·第二，纠缠目标是由两个玩家的位置之间的二元关系所定义的，比如在相遇/回避博弈中，如果一个玩家与另一个玩家相遇，那么这个玩家输了（另一个玩家赢了）。在这种情况下，二元关系是同一关系。

随后，包括清华大学的李大柱、斯坦福大学的米尔泽夫斯基（Chris Mierzewski）和布兰多（Francesca Zaffora Blando）在内的多位研究人员对这些博弈的类型和设计参数进行了深入研究。接下来，我们将主要回顾李大柱博士在清华大学-阿姆斯特丹大学逻辑联合研究中心的刘奋荣、巴塔格（Alexandru Baltag）和范丙申指导下的工作。         

（一）图博弈中的可定义的边切断

在我们所看到的蓄意破坏博弈中，破坏者每次任意选择一条边切断，这种切断的方式是全局性的。这两个方面可以作为参数来帮忙设计新的博弈、并对其加以研究。李大柱的论文“Losing Connection: The Modal Logic of Definable Link Deletion”正是以此为切入点的。[32]文章研究了那些以局部和可定义的方式切断边的蓄意破坏博弈，提出了一种可定义的蓄意破坏模态逻辑（S_dML），该方法利用切断边算子[-φ]ψ扩展了标准模态逻辑。[-φ]ψ被解释为“破坏者切断旅行者当前位置的φ-边后，ψ成立”。为了说明，考虑以下例子：

图3

新语言可以定义许多在基本模态逻辑中无法定义的复杂属性，但同时这会导致计算复杂度的急剧增加。这篇论文证明S_dML不具有树模型性质或有穷模型性质，并且其可满足性问题是不可判定的。尽管这个新逻辑与基本模态逻辑相比没有增加多少内容，与边切断的语义相似的动态认知逻辑的可判定性相比，[33] S_dML的高度复杂性令人惊讶，论文将其原因归结为更新算子的局部性。    

局部性也引发了另一个问题。在DEL及其扩展中，通常可以获得一整套的归约公理。这些归约公理是具有ABφ ↔ BAφ形式的等价公式，其中A是动态算子，B是语言中的其他算子（在右侧可能还需要一些额外的没有B的组成部分）。这通常允许从任何公式中递归删除A，因此表明每个具有A的公式都等价于没有它的公式，从而由没有A算子逻辑的完全性来证明包含A算子逻辑的完全性。但是考虑公式 [-φ]□ψ：将[-φ]放入□的辖域后，模型变化不再是局部的，会造成公式求值时引用节点的丢失。解决此问题的一个想法是使用混合逻辑运算符扩展该语言。论文表明，S_dML可以嵌入到带有名字、索引算子@和箭头算子↓的混合逻辑中，但是，为混合逻辑运算符扩展S_dML的逻辑找到一整套归约公理的问题仍然尚待解决。         

（二）监督学习博弈

图博弈也可以用来分析学与教的场景，考虑两个主体分别为学生和教师。事实上，学习的过程具有类似博弈的特点，因为老师常常要纠正学生的错误，以确保他们在未来避免再犯这些错误。李大柱、巴塔格和杨明娜（Mina Young Pedersen）在他们的LORI论文“On the Right Path: A Modal Logic for Supervised Learning”中研究了师生互动的特征。[34]这篇论文后被扩展并收集在李大柱的学位论文“Formal Threads in Social Fabric: Studies in the Logical Dynamics of Multi-Agent Interaction”中。[35]以下是老师（T）和试图完成逻辑证明的学生（L）之间的对话：

这段对话表现了学习过程中几个有趣的方面。一是存在不同种类的错误：实际犯的错误，以及需要避免的潜在错误。为了区分它们，我们需要知道学生是如何到达当前的位置的：历史很关键。老师指出学生实际犯的错误是一种修改学生的推理历史的行为（并根据对历史的怀疑进行所有进一步的动作），同时, 消除潜在的错误会从当前点开始影响未来。此外，老师指出一个实际的错误，即删除了该步骤之后的整个实际历史，将学生重置到错误前的最后一个位置。老师还可能会给学生指出一些被他所忽视的事实。就抽象的博弈设计而言，这需要一个超强的老师：老师应该能够在图上增加边。另外，即使到达了目标区域，学生也可能不会赢，因为目标区域应该以正确的方式到达。

为了刻画这种交互作用的这些特征，该LORI论文定义了监督学习博弈（SLG）：         

需要注意得是，该博弈并不是零和的：学生和老师都有相同的目标。这篇文章提出了一种监督学习逻辑（LSL）。模型是包含R_L和R_T两种关系和一个赋值函数的图。公式在节点序列上进行赋值，每个节点序列代表一个学习过程。（b）和（c）类型的行为由两个算子表示：⟨-⟩_on φ解释为“删除当前序列中的一个错误后φ成立”，⟨-⟩_off φ解释为“删除不在路径上的错误后φ成立”。此外，⟨+⟩φ也被用于表达（a）类型的行为。从这个语义中可以看出，这个逻辑可以定义玩家在有穷博弈中的行动和获胜位置。该工作的后续论文给出了LSL的更多技术性成果。[36]         

（三）捉迷藏博弈的逻辑

范丙申和刘奋荣在论文中介绍了我们从小就很熟悉的博弈：捉迷藏。[37]把捉迷藏看作一个图博弈，两个玩家的获胜目标纠缠在一起，搜寻者试图找到躲藏者，而躲藏者试图避开搜寻者。2021年，李大柱、高希（Sujata Ghosh）、刘奋荣、涂雅欣在WoLLIC国际会议发表的论文“On the Subtle Nature of a Simple Logic of the Hide and Seek Game”中对捉迷藏博弈进行了深入研究，他们对该博弈的定义如下：[38]             

定义3（捉迷藏博弈）. 给定一个图，两个玩家躲藏者和搜寻者位于两个不同的节点上。每一轮躲藏者和搜寻者依次沿着一条有向边移动。搜寻者的目标是遇见躲藏者，而躲藏者的目标是避开搜寻者。此外，一旦一个玩家被卡住，另一个玩家就会立即获胜。

用来研究这些博弈的LHS语言是基于两个不相交的命题变元集P_H和P_S，它们分别表示了躲藏者和搜寻者当前位置的属性。此外，该语言包含两个模态词[H]和[S]来分别刻画躲藏者和搜寻者的动作（和通常一样，⟨H⟩和⟨S⟩是对偶算子）。此外，该语言的一个关键组成部分是命题常项I，表示“两个玩家处于同一位置”，即搜寻者已经抓住了躲藏者。

公式在一对分别表示躲藏者和搜寻者位置的图节点(h, s)上进行评估。P_H中的命题变元在左侧节点(h)上进行真假判断，P_S中的命题变元在右侧节点(s)进行真假判断。只有当两点相同时(h=s)才满足常项I。一些有效式的例子如下：

        ⟨H ⟩(I ∧φ) →[H](I→φ)

        ⟨R⟩(I∧φ) → [R](I → φ)

        I → (⟨H⟩⊤ ↔ ⟨S⟩⊤)

        I → ([S]⟨H⟩I∧ [H]⟨S⟩I)

常项I也有一些不那么明显的逻辑属性。首先，从公式I ∧⟨H⟩I中可以很容易地看出该逻辑没有树模型性质：任何满足这个公式的模型都必须包含一个循环。论文进一步表明逻辑LHS不具有有穷模型性质，而且其可满足性问题是不可判定的。作者们还注意到，引入I导致逻辑语言的复杂性升高与在其他逻辑中引入等词的情况类似。这里的其他逻辑包括戈德法布（Goldfarb）1984年论文中的哥德尔类，[39]巴塔格和范丙申的函数依赖逻辑。[40]

七 结语

我们这里关注的主要是社会网络逻辑在中国的研究历史，因此重点放在了中国学者们的工作，以及他们与奥克兰、阿姆斯特丹同行的合作成果。但是学术世界的思想是开放的，这个领域不断涌现出新的成果。就博士论文而言，除了梁真、熊作军和李大柱的论文外，还有两篇博士论文也属于这个领域：2016年，阿姆斯特丹逻辑、语言和计算研究所的克里斯托夫完成了她的博士论文“Dynamic Logics of Networks: Information Flow and the Spread of Opinion”；2017年，纽约市立大学研究生院的薛韫琦完成了她的博士论文“In Search of Homo Sociologicus”。司麦慈（Sonja Smets）和她在阿姆斯特丹的团队一直是社会网络逻辑发展的重要力量，她通过对重要社会现象的研究使社会网络逻辑与社会科学建立起联系。例如, 信息流模型、[41]关于回声室[42]和极化现象[43]的研究。司麦慈和委拉斯开兹-克萨达（Velázquez-Quesada）研究了社会群体产生的逻辑特征，其中提出了一种阈值方法来模拟网络创建，其主要思想是主体会将某人添加到她的社会网络中，当且仅当，她们之间的距离小于或等于给定阈值。[44]另一个值得一提的是阮吉（Ruan）和蒂舍尔（Thielscher）在2011年的早期工作，[45]他们在DEL的基础上增加新的“关注”和“取关”动态算子，并将其应用于分析众所周知的“上街革命或待在家里”的问题，其中社会网络在主体的知识获取和决策中发挥着重要作用。2015年，范丙申在论文中讨论了不动点逻辑、模态逻辑和一阶逻辑如何描述社会网络中的各种动态极限行为，包括收敛、振荡和发散。[46]克里斯托夫等人的论文引入了反思性社会影响的新概念，并提出了一个形式的逻辑框架，用于在社会影响下推理私人意见和公共行为。[47]伦兹维格（Rendsvig）在2017年的工作中, 表明网络自动机中的更新机制可以使用DEL中的行为模型来模拟，并确定了一类行为模型，来刻画图上的最佳动态反应。[48]2017年，克里斯托夫和格罗西（Grossi）在论文中根据邻域结构给出了扩散稳定性的特征，并展示了单调μ-演算如何表达其相关属性。[49]莫里森（Morrison）和瑙莫夫（Naumov）在2020年提出了一种新的逻辑系统来研究主体遵从其所属的多个社会群体而不是一组同辈的情况，并提出了该网络的拓扑结构。[50]在图博弈逻辑领域，格罗西和雷伊（Rey）在2019年的论文提出了一种投毒模态逻辑来描述博弈中的获胜位置，并将其与论证理论中的轻信可接受集的概念和图论中的非平凡半核概念联系起来。[51]布兰多等人在论文中使用三种模态记忆逻辑变体系统地研究了投毒博弈，并比较了它们的表达能力。[52]2020年，范丙申等人提出了一种从图中删除节点的逻辑并研究了其逻辑属性。[53]2015年，谢立民和汤普森（Declan Thompson）将博弈论方法应用于网络自动机，[54]并且汤普森在2020年的工作中将其扩展到纳什均衡的逻辑表征。[55]显然，该领域目前正在蓬勃发展，发生的事情远比我们意识到的要多。    

通过对国内社会网络逻辑十年发展史的简要梳理，我们希望表明对生活的社会方面进行推理的逻辑视角是很有吸引力的。回到最初启发这个研究方向的中国哲学，我们感到我们的旅程才刚刚开始，我们刚刚开始对社会关系和社会互动有一个较为清晰的认识。毫无疑问，这种逻辑研究为进一步分析更复杂的社会现象奠定了坚实的基础。展望未来，从中国哲学中吸纳更具体的思想肯定会丰富现有的社会网络逻辑方法，并最终可能会捕捉到我们对社会推理的更多微妙之处。我们仍然在路上。

参考文献

[1] Jeremy Seligman, Fenrong Liu, and Patrick Girard. Logic in the community. In M. Banerjee and A. Seth, editors, Proceedings of the 4th Indian Conference on Logic and its Applications, volume 6521 of LNCS, pp.  178–188. Berlin: Springer, 2011.

[2] 吉拉德毕业于斯坦福大学，是范丙申教授的学生，他与刘奋荣的学术友谊在阿姆斯特丹就开始了。——译者注

[3] 这里“索引”的意思是在认知公式中直接提到主体。

[4] 如Patrick Blackburn, Martin de Rijke, and Yde Venema. Modal Logic. Cambridge, England: Cambridge University Press, 2001。

[5] Ronald Fagin, Joseph Y. Halpern, Yoram Moses, and Moshe Y. Vardi. Reasoning about Knowledge. Cambridge, MA: The MIT Press, 1995.

[6] 如Alexandru Baltag, Lawrence S. Moss, and Sławomir Solecki. The logic of common knowledge, public announcements, and private suspicions. In I. Gilboa, editor, Proceedings of the 7th Conference on Theoretical Aspects of Rationality and Knowledge (TARK 98), pp. 43–56. San Fransisco, CA: Morgan Kaufmann, 1998。

[7] Jeremy Seligman, Fenrong Liu, and Patrick Girard. Logic in the community. In M. Banerjee and A. Seth, editors, Proceedings of the 4th Indian Conference on Logic and its Applications, volume 6521 of LNCS, pp. 178–188. Berlin: Springer, 2011。

[8] Patrick Blackburn and Jeremy Seligman. Hybrid languages. Journal of Logic, Language and Information, 4:251–272, 1995.

[9] Patrick Girard, Jeremy Seligman, and Fenrong Liu. General dynamic dynamic logic. In Thomas Bolander, Torben Braüner, Silvio Ghilardi,and Lawrence S. Moss, editors, Advances in Modal Logic, pp. 239–260. London: College Publications, 2012.

[10] Katsuhiko Sano. Axiomatizing hybrid products: How can we reason many-dimensionally in hybrid logic? Journal of Applied Logic, 8:459–474, 2010.

[11] Katsuhiko Sano. Axiomatizing epistemic logic of friendship via tree sequent calculus. In Alexandru Baltag, Jeremy Seligman, and Tomoyuki Yamada, editors, Proceedings of LORI 2017, volume 10455 of LNCS, pp. 224–239. Berlin, Heidelberg: Springer, 2017.

[12] Zhen Liang. An axiomatisation for minimal social epistemic logic. In Alexandru Baltag, Jeremy Seligman, and Tomoyuki Yamada, editors, Proceedings of LORI 2017, volume 10455 of LNCS, pp. 664–669. Berlin, Heidelberg: Springer, 2017.

[13] Zhen Liang. Towards Axiomatisation of Social Epistemic Logic. PhD thesis, Department of Philosophy, University of Auckland, 2020.

[14] Ming Xu. On some U,S-tense logics. Journal of Philosophical Logic, 17:181–202, 1988.

[15] Philippe Balbiani and Saúl Fernández González. Indexed frames and hybrid logics. In Nicola Olivetti, Rineke Verbrugge, Sara Negri, and Gabriel Sandu, editors, 13th Conference on Advances in Modal Logic, AiML 2020, Helsinki, Finland, August 24-28, 2020, pp. 53–72. London: College Publications, 2020; Saúl Fernández González. Logics for Social Networks: Asynchronous Announcements in Orthogonal Structures. PhD thesis, Paul Sabatier University, Toulouse, France, 2021.

[16] Zuojun Xiong, Thomas Ågotnes, Jeremy Seligman, and Rui Zhu. Owards a logic of tweeting. In Alexandru Baltag, Jeremy Seligman, and Tomoyuki Yamada, editors, Proceedings of LORI 2017, volume 10455 of LNCS, pp. 49–64. Berlin, Heidelberg: Springer, 2017.

[17] Rui Zhu. Social Announcement Logic. PhD thesis, Department of Philosophy, University of Auckland. Forthcoming, 2022.

[18] Fenrong Liu. Changing for the Better: Preference Dynamics and Agent Diversity. PhD thesis, ILLC, University of Amsterdam, 2008; Fenrong Liu. Reasoning about Preference Dynamics, volume 354 of Synthese Library. Springer, 2011.

[19] Zhen Liang and Jeremy Seligman. A logical model of the dynamics of peer pressure. Electronic Notes in Theoretical Computer Science, 278:275–288, 2011, pp.282-283.

[20] Fenrong Liu, Jermey Seligman, and Patrick Girard. Logical dynamics of belief change in the community. Synthese, 191:2403–2431, 2014.

[21] Brian Skyrms. Evolution of the Social Contract. Cambrdige: Cambridge University Press, 2014.

[22] 对这个问题更成熟且广泛的讨论，参见丹尼尔·卡尼曼：《思考，快与慢》，中信出版社2012年版。

[23] Emiliano Lorini and Fenrong Liu. Reasoning about belief, evidence and trust in a multi-agent setting. In An B., Bazzan A., Leite J.and Villata S., and van der Torre L., editors, PRIMA 2017, volume 10621 of LNCS, pp. 71–89. Springer, 2017.

[24] Yanjing Wang and Jeremy Seligman. When names are not commonly known: Epistemic logic with assignments. In Guram Bezhanishvili, Giovanna D’Agostino, George Metcalfe, and Thomas Studer, editors, Advances in Modal Logic 12, Proceedings of the 12th Conference on ”Advances in Modal Logic,” held in Bern, Switzerland, August 27-31, 2018, pp. 611–628. London: College Publications, 2018.

[25] Edward Bernays. Propaganda. Routledge, 1928.

[26] 刘奋荣、谢立民：《关于社交网络中主体行为的推理和预测》，《暨南大学学报》2018年第12期。

[27] Zuojun Xiong and Thomas Ågotnes. On the logic of balance in social networks. Journal of Logic, Language and Information, 29(1):53–75, 2020.

[28] Wiebe van der Hoek, Louwe B. Kuijer, and Yì N. Wáng. Who should be my friends? social balance from the perspective of game theory. Journal of Logic, Language and Information, 31(2):189–211, 2022.

[29] Wiebe van der Hoek, Louwe B. Kuijer, and Yì N. Wáng. Logics of allies and enemies: A formal approach to the dynamics of social balance theory. In Christian Bessiere, editor, Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence, IJCAI 2020, pp. 210–216. ijcai.org, 2020.

[30] Johan van Benthem. Logic in Games. Cambridge, MA: The MIT Press, 2014, pp.477-485.

[31] Johan van Benthem and Fenrong Liu. Graph games and logic design. In F. Liu, H. Ono, and J. Yu, editors, Knowledge, Proof and Dynamics, pp. 125–146. Springer, 2020.

[32] Dazhu Li. Losing connection: the modal logic of definable link deletion. Journal of Logic and Computation, 30(3):715–743, 2020.

[33] Johan van Benthem and Fenrong Liu. Dynamic logic of preference upgrade. Journal of Applied Non-Classical Logic, 17:157–182, 2007.

[34] Alexandru Baltag, Dazhu Li, and Mina Young Pedersen. On the right path: A modal logic for supervised learning. In Patrick Blackburn, Emiliano Lorini, and Meiyun Guo, editors, Proceedings of LORI 2019, volume 11813 of LNCS, pages 1–14. Berlin: Springer, 2019.

[35] Dazhu Li. Formal Threads in the Social Fabric: Studies in the Logical Dynamics of Multi-Agent Interaction. PhD thesis, Tsinghua University and University of Amsterdam, 2021.

[36] Alexandru Baltag, Dazhu Li, and Mina Young Pedersen. A modal logic for supervised learning. Journal of Logic, Language and Information, 31(2):213–234, 2022.

[37] Johan van Benthem and Fenrong Liu. Graph games and logic design. In F. Liu, H. Ono, and J. Yu, editors, Knowledge, Proof and Dynamics, pp.125–146. Springer, 2020.

[38] Dazhu Li, Sujata Ghosh, Fenrong Liu, and Yaxin Tu. On the subtle nature of a simple logic of the hide and seek game. In Alexandra Silva, Renata Wassermann, and Ruy J. G. B. de Queiroz, editors, Logic, Language, Information, and Computation-27th International Workshop, WoLLIC 2021, Virtual Event, October 5-8, 2021, Proceedings, volume 13038 of LNCS, pp. 201–218. Springer, 2021..

[39] Warren D. Goldfarb. The unsolvability of the Gödel class with identity. Journal of Symbolic Logic, 49:1237–1252, 1984.

[40] Alexandru Baltag and Johan van Benthem. A simple logic of functional dependence. Journal of Philosophical Logic, 2021.

[41] Alexandru Baltag, Zoé Christoff, Jens U. Hansen, and Sonja Smets. Logical models of informational cascades. In J. van Benthem and F. Liu, editors, Logic across the University: Foundations and Applications, pp. 405–432. London: College Publications, 2013.

[42] Mina Young Pedersen, Sonja Smets, and Thomas Ågotnes. Analyzing echo chambers: A logic of strong and weak ties. In Patrick Blackburn, Emiliano Lorini, and Meiyun Guo, editors, Proceedings of LORI 2019, volume 11813 of LNCS, pages 183–198. Springer, 2019.

[43] Mina Young Pedersen, Sonja Smets, and Thomas Ågotnes. Modal logics and group polarization. Journal of Logic and Computation, 31(8):2240–2269, 2021.

[44] Sonja Smets and Fernando R. Velázquez-Quesada. How to make friends: A logical approach to social group creation. In Alexandru Baltag, Jeremy Seligman, and Tomoyuki Yamada, editors, Proceedings of LORI 2017, volume 10455 of LNCS, pp. 377–390. Springer, 2017; Sonja Smets and Fernando R. Velázquez-Quesada. A closeness- and priority-based logical study of social network creation. Journal of Logic, Language and Information, 29(1):21–51, 2020.

[45] Ji Ruan and Michael Thielscher. A logic for knowledge flow in social networks. In Dianhui Wang and Mark Reynolds, editors, AI 2011: Advances in Artificial Intelligence - 24th Australasian Joint Conference, Perth, Australia, December 5-8, 2011. Proceedings, volume 7106 of LNCS, pp. 511–520. Springer, 2011.

[46] Johan van Benthem. Oscillation, logic and dynamical systems. In Sujata Ghosh and Jakub Szymanik, editors, The Facts Matter. Essays on Logic and Cognition in Honour of Rineke Verbrugge, pp. 9–22. London: College Publications, 2001.

[47] Zoé Christoff, Jens Ulrik Hansen, and Carlo Proietti. Reflecting on social influence in networks. Journal of Logic, Language and Information, 25(3-4):299–333, 2016.

[48] Rasmus K. Rendsvig. Diffusion, influence and best-response dynamics in networks: An action model approach. CoRR, abs/1708.01477, 2017.

[49] Zoé Christoff and Davide Grossi. Stability in binary opinion diffusion. In Alexandru Baltag, Jeremy Seligman, and Tomoyuki Yamada, editors, Proceedings of LORI 2017, volume 10455 of LNCS, pp. 166–180. Springer, 2017.

[50] Colby Morrison and Pavel Naumov. Group conformity in social networks. Journal of Logic, Language and Information, 29(1):3–19, 2020.

[51] Davide Grossi and Simon Rey. Credulous acceptability, poison games and modal logic. In N. Agmon, M. E. Taylor, E. Elkind, and M. Veloso, editors, Proceedings of AAMAS 2019, pp. 1994–1996, 2019.

[52] Francesca Zaffora Blando, Krzysztof Mierzewski, and Carlos Areces. The modal logics of the poison game. In Fenrong Liu, Hiroakira Ono, and Junhua Yu, editors, Knowledge, Proof and Dynamics. The Fourth Asian Workshop on Philosophical Logic, pp. 3–23. Springer, 2020.

[53] Johan van Benthem, Krzysztof Mierzewski, and Francesca Zaffora Blando. The modal logic of stepwise removal. Review of Symbolic Logic, 15(1):36–63, 2022.

[54] Jeremy Seligman and Declan Thompson. Boolean network games and iterated boolean games. In Wiebe van der Hoek, Wesley H. Holliday, and Wen-Fang Wang, editors, Proceedings of LORI 2015, volume 9394 of LNCS, pp. 353–365. Springer, 2015.

[55] Declan Thompson. Local fact change logic. In Fenrong Liu, Hiroakira Ono, and Junhua Yu, editors, Knowledge, Proof and Dynamics. The Fourth Asian Workshop on Philosophical Logic, pp. 73–96. Springer, 2020.