孟天广吴培琳｜算法政治：算法介入国家治理的耦合逻辑与政治效应

学术 2024-11-10 10:10 上海

因公众号推送规则变更

点击标题下方蓝字关注+星标 “Political理论志”

不错过社会科学前沿精彩信息哦

具体操作如右 →

算法政治：算法介入国家治理的耦合逻辑与政治效应

摘要：

进入人工智能时代，算法介入国家治理成为国家治理变革的重要趋势，算法政治研究成为前沿议题。算法介入国家治理的动力包括功能主义、组织契合、社会工程、政企关系四种理论解释；算法通过赋能、赋权和赋智三种机制嵌入国家治理过程，进而形成了算法系统介入国家治理的三种耦合样态：政企合作、政府自建、政社共建。算法在重塑国家内部组织结构、官僚自主性与权力关系的同时，也通过算法中介作用对国家-社会关系的演变产生了巨大影响，这涉及国家-社会间权力配置、社会对国家的约束、国家对社会的干预三个维度。算法政治的未来研究，一方面要打开算法政治黑箱，考察算法政治的类型学及其成因；另一方面要深入探究算法政治在微观、中观和宏观层面的政治效应，以及智能社会中日益凸显的治理算法研究议题。

作者简介：

孟天广：清华大学政治学系；

吴培琳：清华大学政治学系。

文献来源：

《山东大学学报（哲学社会科学版）》2024年第5期

本文作者之一：孟天广

一、引言

党的二十届三中全会指出：“面对新一轮科技革命和产业变革……必须继续把改革推向前进。” 在进一步全面深化改革、推进中国式现代化进程中，人工智能作为“新一轮科技革命和产业变革”的重要驱动力量，正在对国家治理变革产生深刻影响。在人工智能时代，算法介入国家治理成为全球范围内国家治理变革的重要趋势，构成近年来国际学界热议的前沿议题。无论是在美国等发达国家还是在中国等发展中国家，均可看到算法作为一项治理技术正日益广泛而深入地介入国家治理实践。世界各国政府已在公共决策、公共服务、城市治理、社会治理等诸多领域积极引入算法技术，如智慧城市项目在欧洲、亚洲、北美洲等地的全球部署，这表明将算法技术嵌入城市治理过程，已成为各国政府共同的治理关切；又如，基于算法决策系统的各类政府治理实验亦不断涌现，包括中国的城市大脑系统、澳大利亚的福利欺诈检测系统、美国预测再犯风险的COMPAS系统等。各国在国家治理过程中引入算法的诸多举措，蕴含着对算法技术提升政府运作效率、优化政府治理绩效，进而增强国家能力、改善国家-社会关系等方面的治理期待。

算法介入国家治理并非新生事物，在早期的国家治理实践中就已出现了“国家计算”“数目字管理”等算法政治现象。在现代国家构建过程中，政府应用数字、图表、指数等治理技术的政治实践更是层出不穷。进入数字智能时代，算法已经成为政府改革及其日常运行不可或缺的治理要素。人们既能看到政务机器人的实时响应、公共服务的个性化提供、城市交通的流量优化、社情民意的算法化感知等一系列善治实践，亦可观察到算法自动化决策对民主程序的威胁、预测式警务内含的自我强化偏见、算法俘获与算法操纵对公共利益的蚕食等新型治理风险的生成。这表明，算法技术与国家治理的融合正处于初生、动荡与未定的实验期，智能时代的国家治理正处在亟须对经典理论进行学理反思乃至建构新型理论的关键节点，以厘清算法与国家治理的耦合逻辑与政治效应，明晰算法政治在国家治理既有理论谱系之中的坐标定位，从而适时回应实践需求、推动理论发展。

既有文献已对算法介入国家治理的新现象展开了许多有益的理论探索。不同学者基于各自的理论视角，借助“算法政府”、“算法行政”、“算法治理”、“算法官僚制”、“算法利维坦”等概念，从不同层次和维度捕捉、描摹与解释算法时代国家治理出现的新变化。本文试图从政治学视角论述算法介入国家治理的动力、逻辑与效应，为学界系统理解算法之于国家治理的深刻影响提供理论框架。

首先从技术和社会两重理论进路对“算法”概念进行厘清和界定，进而阐明算法介入国家治理何以成为政治学研究的新兴领域。在此基础上构建了一个理解算法政治的“动力—机制—模式”分析框架，用以阐明国家为何引入、如何嵌入及如何应用算法技术，从这三个维度试图解释算法介入国家治理的耦合逻辑，进而从国家-社会关系视角考察算法介入国家治理的复合性政治效应。最后尝试探讨算法政治研究的未来议程。

二、智能时代的算法迭代与国家治理

“算法”是一个古老而内涵丰富的概念，眼下学界主要从技术和社会两重进路理解算法。随着人工智能时代的快速推进，人类迈入了“算法社会”，一个“算法时代”已然到来。国家治理因算法技术的进入而呈现出许多与过往不同的新特征，算法政治成为近年来备受关注的研究主题。

（一）理解“算法”：技术进路与社会进路

目前，学界对“算法”的理解主要沿着两条脉络展开：一是从技术视角界定算法，二是从社会视角对作为技术的算法进行再审视与再定义。

1.技术进路：机器智能的路径

“算法”首先是一个数学词汇，基本含义是“计算的方法”。从词源学上看，算法的英文algorithm一般被认为源自9世纪数学家花拉子米（AI-Khwarizmi）的拉丁文名，这一古老词汇的原初含义是“一个符号运算过程”（symbolic computation）。到了17世纪，莱布尼茨的研究成果为“算法”一词注入了“二进制运算”的新内涵，这构成数学史上“算法”含义的一次重要变迁。

进入20世纪，电子计算机的发明让人类越来越多地将计算的任务交付给这些“用于计算的机器”去完成。在此过程中，人类首先需要向计算机输入一系列代码形式的指令，告诉它以何种方式完成目标任务——此种指令正是计算机科学视野下“算法”的核心内涵之所在。计算机科学家将“算法”界定为“用以完成一项任务的、一系列精确控制的步骤”，认为“算法的句法结构体现了一种让事情发生的命令结构”。图灵奖获得者Knuth从计算机编程视角，将算法的要素与特征总结为输入、输出、有穷性、明确性和有效性，这表明计算机意义上的“算法”实则是“基于特定的计算，将输入的数据转化为预期输出结果的编码程序（encoded procedures）”。

综上，作为技术的“算法”概念有两层含义（见图1）：一是原初数学意义上的算法，它体现为抽象的形式逻辑；二是计算机出现后，数学算法日益以代码的面貌示人，“计算机算法”成为算法的主要存在形态，它又分为传统的确定型算法和具备自主学习能力的智能算法（机器智能）两种基本类型。

图1 “算法”概念的层次与类型

（资料来源：作者自制）

2.社会进路：机器-社会智能的路径

社会视角认可算法的技术性定义，但更关注算法社会化应用之后的社会后果，注重考察机器智能与社会智能的耦合互动过程及其影响。近年来“批判性算法研究”（critical algorithm studies）的兴起即是从社会视角重新审视“算法”。在社会进路的研究脉络中，来自社会学、政治学、哲学等多学科的学者主张超出算法的技术界定来研究算法对人类社会的复杂影响，这种研究视野除了关注算法的技术原理外，更关注其内嵌于社会的过程及后果，关注算法内隐的意识形态与世界观、与人类实践的纠缠（entanglement）、对人类社会产生的影响，并致力于为此发展出一套专门的理论框架。

在批判性算法研究的视野中，“计算机算法”并非仅是一串串代码和指令，而是一种包含了人、机器与程序的“算法系统”（algorithmic systems）。“算法作为复杂的社会-技术组合体（socio-technical assemblages），包括算法、模型、目标、数据、训练数据、应用、硬件——这些都与更广泛的、致力于生产知识的社会努力相联系”。Seaver认为，必须在算法系统层次上才能准确把握Google、Facebook等平台赖以运作的算法技术，因为这些算法系统“并不是一个个孤立的小盒子，而是规模庞大、相互连接在一起的存在物，且有成百上千只手伸入其中，对其展开调试、更换零件与试验新的安排”。在此种理解中，算法不再是技术性定义中“程式化、僵硬和连贯一致的存在”，恰恰相反，它是“流动、可修改与协商性的”。

简言之，较之于对算法进行技术性界定，社会视角更倾向于在算法技术与人类社会、机器智能与社会智能的互动和互构中把握算法的意义，因而对算法的概念建构更具多元性、复杂性与开放性。

（二）算法系统：智能革命的语境

为考察智能革命背景下算法对国家治理的介入与影响，我们对“算法”的界定采用计算机科学视角下的狭义界定。这意味着本文仅关注算法的一种现代形态——计算机算法，特别是其中与智能革命密切相关的学习型算法。在研究取向上，采纳社会视角对于“算法”的理解进路，关注由机器智能和社会智能共同构成的广义“算法系统”所驱动的国家治理新兴现象及其政治效应。

在智能革命语境中讨论算法，亦有必要辨析与算法紧密相关的两个概念。一是算法与数据（data）。算法是对数据进行的操作，数据在算法的操作中呈现意义。Balkin曾将Kant的名言改编为“没有数据的算法是空洞的，没有算法的数据是盲目的”，用以说明二者之间存在相互依存关系。换言之，算法若要产出计算（computation）的结果并发挥影响力，离不开数据作为原料和算力作为支撑。因此，对“算法”的讨论也必然涉及“数据”问题。二是算法与人工智能（Artificial Intelligence， AI）。依托学习型算法，机器能够以智慧化的方式完成任务，由此造就了“能够正确解释外部数据，从这些数据中学习，并运用这些学习到的知识，通过灵活适应的方式来实现特定目标和完成任务”的人工智能。可见，学习型算法是人工智能的关键构件。

（三）算法政治：一个新兴的研究题域

伴随着智能革命进程，算法对人类社会各领域产生了深远影响。在社交应用中，“为你推荐”“大家都在看”等算法推荐模块已是常见的信息配置机制；在新闻获取过程中，“算法新闻”提供的内容聚合服务已成为公众日益重要的信息来源；在网络搜索领域，“自动补全”“按相关性排序”“个性化搜索”等算法驱动的信息检索服务已成为标准化功能设置；在交通执法领域，“天眼抓拍”等高精度算法监控设备已被广泛用于违法行为识别；等等。上述这些不胜枚举的实例表明，人类社会已迈入算法时代。

算法介入国家治理并非新生事物。在“国家计算”或“数目字管理”的视阈中，国家早在前现代社会就已借助数字、图表等计算方法来试图测算和理解社会；而步入现代社会后，国家又设计出更为复杂的数字化管理体系来应对日益复杂的治理场景，这表明“计算方法”早已是现代国家构建的必要构成。进入数字时代，在全球数字政府建设进程中，算法成为数字政府建设不可或缺的治理要素。总之，无论是广义的算法还是狭义的代码形式的算法，均在国家治理实践中扮演着重要角色。然而，上述国家治理的“算法”应用很少被视作表征国家治理演进趋势的“算法政治”实践，而更多被作为治理工具箱中的一种新生治理技术来看待。

目前，学界关于“算法治理”“算法政府”等问题的研究通常认为，算法政治的生成与政治场域中“智能算法”的广泛应用紧密相连。智能算法以数据为原料、以代码为载体、以自主学习为核心特征，其运作除遵循一般的计算逻辑外，自身还拥有一套特异性逻辑，如迭代学习、自我强化、黑箱性、隐蔽性等，这使得这项技术与政府先前使用的传统算法技术相比，具有更高的技术自主性、更强的原理隐蔽性与更广的影响辐射性，以至迥异于过去许多简单可控的治理技术，衍生出一种新型“技术权力”，因此也成为智能时代国家治理变革日益凸显的新兴研究领域。

算法政治的两个基本研究问题是“算法治理”（governance by algorithms）与“治理算法”（governance of algorithms）问题。其中，“算法治理”的核心是各类政治主体如何利用算法达成政治意志，如国家如何利用算法提升其理解社会运行的能力，社会公众如何借助算法更好地参与公共生活，算法如何赋能政府提升其治理绩效等；“治理算法”则关注政府、企业、社会组织、社会公众等多元主体如何理解以及应对算法在社会化应用过程中所引发的一系列伦理问题与社会风险，进而实现算法向善的价值目标。具体而言，本文关注的“算法政治”聚焦算法介入国家治理过程的动力、机制及模式，尤其是算法催生的新型技术权力与国家这一关键政治主体的交互过程及其潜在政治效应。国家作为公共权力的掌握者，其对于算法技术的使用，将对公民权益与社会福祉产生更为直接、普遍和强制性的影响，因而构成算法政治实践的核心场域，是最为直观和典型的算法政治形式。

三、算法介入国家治理：动力、机制与模式

科技革新代表了生产力质的飞跃，始终是国家发展的重要驱动力。在现代国家建设进程中，科技革命深刻影响着国家构建及其运行的方方面面。譬如，工业革命推动了现代科层制政府的形成，互联网革命带来了无缝隙政府的萌芽，第四次科技革命驱动着国家治理的智能化转型。科技革新介入国家治理一般需经历技术采纳、技术嵌入和技术耦合三个阶段。以算法介入为例。首先需要产生一定的技术介入动力，这构成算法政治实践的前置性条件，是政府为何要引入算法的技术采纳问题；其次是在政府决定引入算法之后，算法以何种机制嵌入政府运行过程，这是政府如何获得算法技术的问题；最后是在政府将算法纳入治理工具箱以后，即进入到算法治理应用阶段。此时问题的关键是，政府如何使用算法技术以达成预期目标——也正是在此过程中，算法与国家治理耦合形成了不同模式。

由此可见，算法介入国家治理包含技术进入动力、嵌入机制与耦合模式三个要素，涉及政府采纳、获得和应用算法技术的三个阶段。基于此，提出“动力—机制—模式”的框架来分析和理解算法与国家治理的耦合过程与嵌入逻辑。其中，动力维度涉及推动算法介入国家治理的多重因素，机制维度涉及算法嵌入国家治理的多元方式，模式维度涉及算法与政府治理体系的不同耦合样态，三者共同构成以国家为中心的算法政治实践的全过程。

（一）动力：算法技术为何介入国家运行

政府为何引入算法技术？哪些因素推动了算法技术进入政治过程？可以从以下四个理论视角（见表1）来理解算法技术采纳的政治逻辑。

表1 不同理论视角下算法介入国家治理的动力机制

（资料来源：作者自制）

一是功能主义视角。此视角关注国家治理中的算法引入所能够为国家运行带来的诸多增益，这源于机器智能较之于人类智能所拥有的几大优势：一是速度或效率优势，即面对复杂繁重的治理任务，政府能够借助预先设计的算法自动高效地处理海量数据和完成大量工作；二是节约治理成本优势，即在政府预算紧张的现实约束下，引入算法技术被认为从长远来看能够为政府节省更多经费，如应用算法技术帮助处理文书工作即可节约大量人力资源成本；三是精准和一致优势，计算机理性的这两种特性被认为能够给出更加公平的算法判断；四是个性化或定制化优势，即过去政府公共服务的个性化提供在很大程度上受制于技术约束，而今算法支持下的公民数据收集与挖掘让公民得以参与到个性化公共服务的共同生产之中，实现大规模个性化定制的治理目标；五是治理信息和知识供给优势，这是机器智能的关键优势，即能够从大数据中自主学习并进行预测，据此为国家治理提供更加丰富的治理信息和治理知识。

二是组织契合视角。该视角注意到，算法系统的运作原理与韦伯经典科层制理论中的理性化、非人格化、规则化、专业化、客观化要素具有内在的契合性，这为算法技术进入政府、成为政府组织自然的技术延伸营造了相宜的环境。例如Peeters和Schuilenburg认为，算法本质上是一种官僚化工具，它以类似乃至更甚于官僚组织的方式对人类行为与决策进行组织与安排。算法进入政府之后形成的“算法官僚”，延续了传统官僚制设计的工具理性逻辑，在此意义上，过度依赖算法官僚可能让“韦伯铁笼”延伸为“算法铁笼”。更多的类比论证还包括，对作为社会-技术存在的算法系统与官僚制组织进行的类比，以及Muellerleile等学者对“数字韦伯主义”的相关论述。从组织契合视角来看，政府科层制过去一直致力于实现非人格化的、基于规则的组织理性化运作，而算法的新近发展则为现实中的政府组织更接近于韦伯所设想的理想类型提供了技术契机。

三是社会工程视角。该视角从更为抽象的观念以至意识形态层面出发，来解释许多行动者对推动算法技术进入公共部门的偏好乃至狂热。Scott在《国家的视角》一书中曾提到“社会工程”（social engineering）及其背后的极端现代主义意识形态，用以批评国家权力出于这种信念对社会大肆进行的诸多科学化改造。而在社会工程的笃信者看来，许多国家改造项目失败的根源是技术还不够先进和完善。但在如今的技术条件下，国家大规模收集和分析数据、提升社会可读性的能力在算法的加持下似乎有了新的突破。于是，过去许多棘手的社会治理问题现下或有望依靠算法来得到解决。这种信念也被Morozov称为“解决方案主义”，它揭示了驱动算法进入公共部门的一种观念动力。

四是政企关系视角。由于算法政府的建设在现实中多依赖政府与外部机构特别是科技企业的合作，因此不少学者特别关注企业在游说政府应用算法技术过程中的角色。诸如“算法影子官僚”、“算法俘获”等概念的提出，凸显了算法企业基于商业逐利逻辑不断向政府推销和植入其算法技术的现象，这构成算法进入公共部门背后隐蔽的经济和利益驱动力。这一视角为算法从私营部门向公共部门各领域的持续扩张态势提供了一种政治经济学的解释。

（二）机制：算法技术如何嵌入国家治理

政府如何引入算法技术？算法技术以何种机制嵌入政府？诸多研究探讨了算法技术嵌入国家治理过程的具体机制和路径问题。从理论角度而言，赋能政府、赋权社会和赋智决策是算法嵌入的三种关键机制。其中，算法赋能机制概括了算法技术与政府内部各职能部门日常工作的耦合过程，算法赋权机制侧重算法技术对社会多元主体组织和参与能力的增强作用，算法赋智机制强调算法技术如何汇集众智，进而从综合维度提升国家治理的决策质量。这三种机制在理论上相互区分，在实践中则往往相互交织，并经由更多具体的操作化路径，使算法得以嵌入国家治理过程。

首先，算法通过赋能机制嵌入国家日常运行。在人工智能时代，无论是政府自身还是社会经济运行都日益数字化、智能化，算法成为政府机构日常运行的必要治理技术。算法赋能政府的操作化路径包括政府服务部门应用算法自动化决策系统对福利申请者进行资格审核与福利发放、交通管理部门依托算法系统对交通违章进行自动识别、司法部门利用智能算法系统辅助量刑决策的实践等。算法赋能不仅可以显著促使政府提升自身运行效率，提高其精准科学决策、优化考核问责的能力，还能够有效地强化政府更宽领域、更长时段、更精细地感知和干预经济社会运行的能力。

其次，算法技术通过赋权社会促进政社协同。算法技术的普及应用推动了社会成员智能素养的培育，提升了社会公众理解、连接和使用算法服务及智能应用的能力，进而增强了整个社会进行信息处理、诉求表达和集体行动的能力，促进了国家治理过程中的社会参与。算法赋权社会的典型路径包括政府投放政务机器人促进政民实时互动、利用自然语言分析技术解析网络表达并及时推进政府回应等。在此过程中，算法技术及其应用能够促使政府、科技企业、科技社群、社会成员等多元治理主体构建起生态伙伴关系，从而一方面培育社会协同能力、促进算法创新及其应用场景开发，另一方面构建政社协同格局、保障算法治理应用的社会合法性及其日常化运行。

最后，算法技术通过赋智决策实现人机共治。算法系统嵌入政府运行本质上反映了人机共治的产生，这影响着政府决策过程及权力关系的演变。Yeung提出了一个算法规制的类型学框架，对理解算法如何经由赋智机制嵌入决策颇具启发意义。依据算法应用类型与人机共治模式，算法赋智包括下列类别：按照标准设定、监控与信息收集、执法与制裁三个维度进行划分。其中，在标准设定层面，可分为标准固定型（简单的算法系统）与标准可变型（具有适应性的、智慧的算法系统）；在监控与信息收集层面，可分为历史数据型（反应式的算法系统）和推断数据型（预测式的算法系统）；在执法与制裁层面，可分为自动型（算法自主决策）和建议型（算法辅助决策）。这呈现了算法系统的两种基本运作逻辑（反应逻辑与预测逻辑），以及人机共治的两种基本方式（算法辅助与算法取代），它们共同构成算法赋智的多元实现路径。

（三）模式：算法与国家治理的耦合样态

政府如何将算法技术融入现有的治理结构？抑或算法技术如何重塑政府？简言之，算法系统与国家治理通过多元方式耦合以促使政府形成算法治理体系及能力。政企合作、政府自建和政社共建是国家-算法耦合的三种常见样态。

一是政企合作模式。这源于算法的技术复杂性及其应用的场景复杂性，因而政府与企业合作成为克服这两种复杂性的常见模式。该模式的主要实现机制是公私合营或政府采购，譬如经由政府采购程序获得私营部门的技术能力，或者通过公私合营构建支撑算法系统开发及运行维护的市场主体。该机制的优势是政府获得的算法技术将更具专业性，并倾向于拥有更好的效能，而其劣势则肇因于此模式中的委托-代理关系，即从中可能衍生出信息不对称、监管困难、俘获与寻租等问题。政府机构通常从科技企业购买和移植算法系统，而较少参与这些系统的开发和设计过程，这导致政府对这些算法系统知之甚少，在算法系统出错之后亦无力提供解释，由此加剧了算法不透明和监督问责的困境。

二是政府自建模式。Engstrom等学者较为推崇这一方式，认为其优势在于政府与技术人员能够在算法开发设计阶段同地办公、充分沟通并紧密协作，这有利于政府即时、动态地调校和优化算法系统。同时，较之于外包至商业机构，这一方式有助于更好地应对对抗性学习（adversarial learning）问题，从而在政府算法系统运行方面更具安全性。更重要的是，经此方式，政府将能够掌控开发过程、提升自身能力并获得嵌入式的技术专长（embedded technical expertise）。不过，这一技术嵌入模式尽管优势显著，但在现实中却常因受制于政府人力、财政能力等资源约束，而难以成为实践的主流。

三是政社共建模式，即政府通过与学术机构、非政府组织等社会力量或志愿力量合作，或通过发起社会众包竞赛等方式来引入算法技术。此种算法嵌入模式的优势在于，能够调动社会力量参与政府算法系统共建，有效利用社会创新能力，并能够在一定程度上调和前两种方式中政府面临的“自建还是购买”权衡（the made or buy trade-off）。但其劣势则在于，社会开发的技术应用范围往往有限，技术可靠性和运行韧性时常堪忧，且通常在大型、复杂的任务上表现欠佳。

四、算法政治的效应：基于国家-社会关系视角

算法介入国家治理所引发的多维效应已引起广泛关注。社会学视角特别关注国家治理算法化的社会控制后果，法学视角更为聚焦算法对行政法及政府行为之合法性的影响，组织学视角更注重探讨算法对政府科层制组织形态的重塑。本文旨在从政治学视角系统考察算法政治兴起的效应，尤其是从国家-社会关系经典视角出发，全面探析算法介入国家治理将产生何种政治后果。

（一）算法化的国家与社会

国家治理引入算法系统将变革国家自身，带来国家的算法化，主要体现在以下几个方面：

一是变革政府组织模式。科层制是政府组织的基本形式，而算法的进入将推动政府内部形成一种新的组织、协调与合作机制。例如，Meijer等学者对德国与荷兰地方警务部门的预测性警务实践研究发现，两地政府部门均会围绕算法系统的引入来重新安排工作，且在不同组织规范与行政文化的影响下，两地分别形成了更强调纵向等级控制的“算法牢笼”（the algorithmic cage）模式，和更强调水平协作生产的“算法同僚”（the algorithmic colleague）模式。

二是重塑官僚角色与自由裁量权。算法系统之于人类官僚具有替代与辅助两重效应。一方面，算法系统将接管过去由人类官僚从事的许多日常工作，由是人类官僚的角色将发生转变，即更多转向监督算法系统运行、处理例外状况等；另一方面，算法系统能够为人类官僚的决策判断提供智力支持，其输出的智能化研判可作为一种新型决策建议供人类官僚参考，此时人类官僚的任务更多转为与数据科学家合作，将自身专业知识与算法研判相结合以作出更为科学、精准的决策。在前者的情形中，人类官僚的自由裁量权实际上受到了算法系统的限制或取代；而在后者的场景中，人类官僚的自由裁量权事实上得到了增强，因其在决定如何利用算法判断方面获得了更多的自主性。

三是重构政府内部权力关系。算法系统的引入打破了政府内部既有的权力格局，催生出新的权力关系。一方面，算法专家、数据科学家、科技企业等局外群体进入政府内部，协助政府建造和应用算法系统。此类群体基于对算法知识与技能的掌握，实质上获得了一种专业化的影响力与支配权，这导致政府内部的权力运行出现外部化趋势；另一方面，政府内部掌控算法系统的部门获得了额外的技术与信息优势，因此在横向权力关系中将拥有更多的话语权和更为凸显的权力地位，在纵向权力关系中则将改变过去政府上下级之间的信息不对称现象，产生权力转移效应。

与此同时，伴随着国家运行的算法化进程，社会也经历着算法化过程。无论是从微观层次个体的经济与社会行为，还是从中观层次市场与社会组织的运行过程而言，算法都成为智能社会不可或缺的基础要素。例如，算法已成为社会媒体应用中信息分发、网络过滤的常见技术装置，而生成式人工智能的普及应用更是促使内容生成、内容聚合成为每个人越来越离不开的数字生态。此外，算法在电子商务、金融信贷、快递服务等领域也得到了广泛使用，正逐渐成为降低对传统劳动力依赖的智能化替代方案。而且，社会治理的算法化进程也在加快推进。为适配社会治理的算法化进程，数字服务日益成为如水电一般寻常普惠的社会基础设施，以将每一位社会成员都纳入算法系统的操作范围，使之利用基于算法推断的“算法身份”来与国家展开互动，并以此得到国家的差异化、个性化对待。

（二）算法驱动的国家-社会关系变迁

算法介入国家治理极大地推进了国家和社会的算法化进程，进而对智能时代国家-社会关系的重塑产生了巨大影响。

首先，在国家与社会之间的权力配置维度，算法治理被认为具有权力再分配效应，可能加剧政治社会不平等并引致国家与社会之间的权力配置失衡：一是算法治理中依旧存在操纵算法系统（gaming the system）的可能性，而拥有更多金钱、关系等资源的群体往往比弱势群体更有能力操纵算法为己所用，这意味着在机器配置公共资源的铁面无私外衣下，一个马太效应的故事继续变装上演。二是算法的不均衡赋权效应。在算法治理的版图中，因算法扩张而获得新型权力的“代码精英”（the coding elite）正日益崛起，而本就掌握公共权力的政府则在与这一群体的合作过程中获得了更多数据赋予的知情、评分、排序等权力。相较之下，普通个体在国家精算逻辑扩张的过程中却通常处于相当被动和选择极为有限的境地：个体倘若拒绝被数字化，那么在一个算法治理的世界中，这很可能意味着失去获取公共服务乃至政治身份的机会，成为“余数生命”。

其次，在社会对国家的约束维度，算法介入之于政府行为正当性和问责性的影响值得深入思考。一是民主侵蚀与正当程序问题。反应式算法自动化决策具有瞬时性，对原有的行政程序环节进行了极大的压缩，预测式算法则更是以难为人类所理解的机器理性输出着一系列结果，并据此指导政府调配公共资源。而在这些过程中，公众参与、讨论协商、专家论证等一系列环节均可被排除在外，或者不被需要。在此意义上，算法治理的技术逻辑与权利意义上的民主逻辑产生了冲突，算法治理面临着去民主化的风险。更重要的是，当算法系统出错或出现偏见之时，受到算法系统伤害的公民面对政府将代理权和自由裁量权下放给算法的现实，时常会遭遇权利救济和问责障碍。二是权力滥用与监督问责问题。算法治理可能促使政府以算法决策不可解释性为由，逃避对公共决定的回应与责任承担，抑或是在技术外包给私人企业的情况下将责任推诿给科技企业。

再次，在国家对社会的干预维度，算法独特的运作机理将改变过去国家对社会的干预逻辑，推动形成新的干预调控模式。算法嵌入的运行原理是社会测量和社会计算，主要涉及问题定义、问题的形式化、数据收集与整合、数据处理与知识生产、应用算法知识采取干预措施五个步骤。此种运作机理为国家干预社会提供了两种新思路：一是基于预测的行动逻辑。算法预测让国家能够依靠机器智慧获得“先知”的能力，从而先发制人地进行治理。二是基于设计的治理逻辑。在算法和数据驱动下，国家将规则与价值规范预先内置于算法系统的设计当中，而后经由算法系统对这些设计要旨的自动化执行，来巧妙、隐蔽和更为自然地达成治理目标。这种治理模式的核心是设计和改变算法系统中行为者的选择架构（choice architecture），因而有别于行政命令和法律等刚性干预机制，为国家干预社会提供了一种更为软性的算法控制机制。

当国家基于上述两种逻辑干预社会运行时，将会产生何种效应？依赖算法知识的预测式治理与强调事前设计的设计式治理，实际上涉及国家自主性与社会复杂性的更深层次问题。因此，算法对社会复杂性的简约化处置、对多元社会价值的刚性化操持，均可能引致一系列算法治理的潜在风险与治理失败，甚至对既有国家-社会互动机制造成破坏性效应。

事实上，在算法应用于国家治理的新兴全球实践中，已有越来越多的现实案例表明，当算法介入国家治理过程时，算法系统的运行有效性、透明度、自动化等一系列特质，都会对国家算法治理发生地的国家-社会关系产生多重影响。例如，荷兰政府在2014—2020年投入使用的用于检测潜在福利欺诈行为并进行风险评分的SyRI（系统风险指示）系统，就因其算法不透明和社会监视特性而引发了社会恐惧。在政府拒绝披露算法系统细节的情况下，当地社会组织将政府告上法庭，最终海牙法院以违反人权规范为由裁定政府停止使用该系统。又如，在预测性警务领域，著名的PredPol算法系统已在美国大约60个警务部门得到使用。最初，该系统被寄望能够预先阻止犯罪活动，从而彻底变革执法方式。但在实践中，由于该系统使用了复杂的算法，其运行效能一直难以有效评估。

除了引发集体行动和算法诉讼外，算法介入国家治理所引发的更为深远的政治后果莫过于荷兰的Toeslagenaffaire丑闻。2013年，荷兰税务和海关管理局一个名为Toeslagen的部门在管理育儿津贴的过程中，引入和使用了一套基于智能算法的风险评估模型，而在2019年人们发现，有数以万计的父母被该系统不公平地归类为潜在的诈骗犯。此事曝光以后，最终导致了2021年荷兰内阁的辞职。

值得深思的是，以上事件并非孤例。数据正义实验室2022年发布的一份研究报告显示，在美国、澳大利亚、加拿大等多个国家，已有61个应用算法自动化决策系统的政府项目被取消或暂停，这些项目多来自福利欺诈侦查、警务与法律、儿童保护等领域，其被取消的原因包括对算法系统有效性的质疑、算法项目受到来自社会的批评、涉及法律诉讼等。这意味着在全球范围内，与国家治理的算法化进程相伴生的另一趋势是，一些国家正选择在实践中暂停或取消应用算法系统，这些算法系统引发了国家与社会之间的冲突，对既有的国家-社会关系产生了现实冲击。

五、结论与展望

算法特别是学习型算法的兴起，正为国家治理带来一系列引人瞩目亦争议不断的新变化。本文在梳理“算法”概念的基础上，从算法介入国家治理的动力、嵌入国家治理的机制、影响国家治理的逻辑、对国家-社会关系的影响四个维度，分析了算法政治的理论问题及其学术议程演进。可以说，算法政治研究方兴未艾，学界围绕算法系统及其与国家治理的耦合问题展开了诸多研究。尤其是算法政治研究正从理论探讨逐步转向实证研究，在此过程中，诸如相似的算法技术应用为何会产生异质的政府组织效应、算法技术嵌入模式如何影响算法政府运行、算法系统如何重塑民主制度等更为深入的问题，逐步成为学术研究的焦点，这标识着算法政治研究日渐从萌芽走向深入。通过对算法介入国家治理的“全过程”进行全景图式的阐述，力图为算法政治研究的现状描绘及其未来推进提供一幅思维地图。当然，这幅地图并非完备详尽，还存在一些缺陷，这主要反映在两方面：一是本文更多为规范性分析，文中所使用的实证证据主要以单案例形式呈现，而尚未进行更为系统的比较案例分析与假设检验；二是对算法政治现象的关注，首要聚焦的是国家使用算法进行的治理活动，而并未涉及该现象的另一重要维度，即国家作为政治主体对于算法的约束与治理。

就未来研究而言，至少存在下述三个方向值得学界重点关注和深化研究：

一是打开算法政治的“黑箱”，考察算法政治的典型类型及其成因。面对算法在各国国家治理领域的扩张态势，在学理上寻根溯源、追踪过程，深入分析算法介入国家治理的动力、过程与机制，并以此为基础进行必要的概念建构与理论发展，仍是未来尤为重要的一项基础性工作。此方向的研究重点包括：识别和类型化考察驱动不同政府部门采纳算法技术进行治理的多重因素、揭示算法嵌入政府治理过程的完整链条与多元机制、理解算法与政府既有治理结构的互动关系及耦合路径等。以全球各国丰富的算法治理实践为经验材料，展开个案深描或多案例比较研究，从中归纳出国家算法治理的典型模式并建构类型学框架，系统解释不同模式的生成机制，是这一方向未来的研究重心所在。

二是探究算法政治影响国家治理的微观、中观和宏观层次政治后果。国家引入算法进行治理将带来复杂多维的政治后果，未来的研究可从微观、中观和宏观三个层次切入展开。其中，微观层面的后果研究包括算法应用在个体层次上引发的政治态度与行为后果，如算法厌恶、算法欣赏、算法信任等技术态度的生成，以及个体针对国家算法应用的应对行动与因应策略等；中观层面的后果研究包括算法技术嵌入对政府组织、结构与功能的影响，以及对政府与企业、社会等外部行为体之间关系的重塑等；宏观层面的后果研究包括算法在单一国家治理过程中的应用，可能对该国政治制度产生的变革性影响，以及各国不同的算法治理实践对于全球治理体系与国际政治格局变迁所可能产生的深远后果。

三是关于国家如何治理算法问题的研究。国家既是算法的使用主体，亦是算法的监管主体，这一双重角色意味着国家在引入算法技术进行治理的过程中，亦需同步发展其应用、把控、监管和治理算法的能力，以促进算法技术与国家治理之间的良性互动。基于此，未来研究的一个重要方向是，理解国家算法治理原理，探究如何经由算法技术设计与制度设计两条基本进路，来确保算法在国家治理过程中的有效运行和可控应用，最终实现算法均衡赋权国家与社会的科技善治之道。

转载｜解倒悬

审核｜安琪

终审 | Mike

本文内容仅供参考，不代表理论志观点

前沿追踪/理论方法/专家评论

ID: ThePoliticalReview

“在看”给我一朵小黄花

http://mp.weixin.qq.com/s?__biz=Mzg2OTYwMDg3Mw==&mid=2247543308&idx=1&sn=62b6cf51263457cda2507edb3783bf7d

PoIiticaI理论志

搜索“理论志”，发现新学术：十余万社会学人、政治学人、国政学人、政经学人共同关注的学术平台。目前，我们主力追踪全球政治社会、国家理论与政经研究新动态。

孟天广 吴培琳｜算法政治：算法介入国家治理的耦合逻辑与政治效应

孟天广吴培琳｜算法政治：算法介入国家治理的耦合逻辑与政治效应