许晓东 邝岩｜算法权力在治理体系中的产生与规制

算法权力在治理体系中的产生与规制

许晓东，华中科技大学公共管理学院教授、博士研究生导师

邝岩，华中科技大学公共管理学院博士研究生

原载《华中科技大学学报(社会科学版)》

2024年第4期

摘要：在数字化转型的背景下，算法成为社会运行的重要规则并影响了整个治理体系的运转逻辑。算法在治理体系中的嵌入实质上是一种与制度相互型构的过程，算法强化行政组织的决策权和执行权、推动平台权力产生，并在一定程度上实现对行政人员职能替代的同时，既有的治理结构和制度安排也塑造了算法官僚这种新的组织形态，并形成了算法权力这种新的权力形态。这种权力算法化的运转逻辑在提升治理效能的同时也在权力配置、运转等方面引入了新的治理风险，可以基于权力理论从制度制约、伦理制约、权力制约和权利制约等方面进行针对性的规制。

关键词：算法治理；算法权力；技术嵌入；权力规制

我国“十四五”规划纲要指出，要“加快数字化发展 建设数字中国”，提出“以数字化转型整体驱动生产方式、生活方式和治理方式变革”。在数字化转型的过程中，算法决定了各类数据的处理方式以及不同信息系统的运行逻辑。算法正随着生产生活方式的变革得到愈发广泛的应用，为社会运转效率和国家治理效能的提升提供了有力支撑。然而，算法在参与治理的过程中也产生了新的问题，“信息茧房”“算法歧视”“算法黑箱”等现象严重制约着社会公共价值的实现。在此背景下，算法治理成为新的研究热点，研究者从治理风险、治理机制、政策设计等方面进行了分析探讨。在既有研究中，“算法即权力”成为解释算法影响力的一种常见思路，但相关内容较多停留在阐述算法作为一种技术系统对人类决策权的替代作用，而没有将算法权力置于整个权力体系中来阐述其对既有权力运转的影响。作为一种技术系统，算法如何在应用过程中改变原有治理体系中的权力结构并形成一种新的权力形态，以及如何对这种新的权力形态所产生的风险进行有效规制，值得我们进行深入思考。本文从技术与制度互构的视角出发，分析算法技术嵌入对当前治理体系中各种权力的影响，以及治理体系中的组织结构、制度安排等因素如何塑造了算法权力的运转逻辑，并在此基础上提出算法权力的规制路径。

算法在治理体系中的嵌入是算法权力得以产生的基础，而这种嵌入实质上是一种技术与制度相互型构的过程：一方面，算法在信息传递、流程优化、决策支持等方面发挥的作用对组织内部及社会整体制度的运转逻辑产生了深刻影响；另一方面，算法的使用取决于现行制度中的组织需求，即组织运转的业务需求、职能结构、制度环境等内容塑造了算法系统的实际运转模式。在此过程中，算法的嵌入改变了治理体系中既有权力的配置情况，并在与制度的交互过程中形成了一种新的权力形态。

（一）算法嵌入对既有权力结构的重塑

在治理体系的运转过程中，规则和自由裁量权之间一直维持着某种平衡，算法的嵌入也是算法规则与治理体系中各种自由裁量权的交互过程，即算法规则的“刚性”如何影响治理体系中权力的“弹性”，而这种影响可能会实质性地改变治理过程中的权力配置。具体而言，治理体系中具有自由裁量属性的权力主要包含地方行政组织的决策权和执行权、衍生于经营自主权的平台权力以及行政人员的自由裁量权，其中前两种是传统公共行政领域和新兴平台公共空间中组织层面的权力，而最后一种则是微观层面公共事务处理过程中的裁量权。

1.行政组织决策执行权的强化

在行政发包制的理论视角下，作为行政任务承包方的地方行政组织有着具体执行和决策的权力，且这种权力具有一定的自由裁量属性。在算法嵌入的过程中，由于各类系统建设及运行维护的任务并未脱离传统行政任务的范畴，大多仍是通过层层发包的方式交由地方行政组织执行，因而算法的嵌入并没有真正冲击政府科层制的运行，地方行政组织的权力通常也不会被算法规则的构建压缩，反而会在技术赋能作用下得到一定程度的增强。算法虽然在运行过程中可以进行一定程度的自动化决策和执行操作，但其设计和管理过程仍是基于人类主体对具体行政需求和行政逻辑的判断，反映的是系统掌控者的行政理念和利益诉求。从这个角度来看，算法的赋能效应会使掌控算法的行政组织在行政发包链条中获取更多权力。这种权力既体现在面临上级组织考核或介入时，算法所带来的数据操作、业务解释和责任规避的空间，也体现在对下级组织或个体进行考核管理时，基于算法在数据获取、流程监测等方面的能力而对下级自由裁量空间的压缩和回收。由此出现逐层决策权力和自由裁量空间减小、服务事项和按章办事规则增多的趋势，进而达成算法赋能的目的。

2.平台权力的产生与结构嵌入

随着算法的普及应用以及平台的迅速崛起，平台企业逐渐获取了更多影响力并被认为是一类重要的权力行使主体，“平台权力”也随之成为一个被广泛使用的概念。平台权力源于平台企业基于数据、技术和市场优势所获取的影响其他行为主体权益的能力，这种能力在平台企业行使经营自主权的过程中逐渐衍生为平台管理权和规则制定权，并在事实上发挥着维护平台秩序、保障用户权益的公共职能，其本质上是一种由企业主体行使的具有公共权力性质和特征的权力形态，属于一种与“国家公权力”对应的“社会公权力”。平台权力向治理体系中引入了新的权力行使主体，改变了传统的国家与社会二元对立的“公权力-私权利”结构，形成了算法时代的三元博弈新格局，并进一步推动了多元治理的结构转向。总体而言，以算法为支撑的平台经济迅速崛起使得平台权力成为了治理体系中一种重要的权力形态，这种权力的产生与嵌入改变了传统的权力结构，进而在平台公共空间形成了“行政权力—平台权力—私权利”的格局。

3.行政人员自由裁量权的替代

在算法化的趋势下，传统基层行政人员根据治理情境“再决策”的权力会通过细化的算法逻辑内嵌于信息系统之中，政策的执行不再是规则在具体案例中的应用，而是通过设计专用的信息系统将单独的行政流程进行关联，进而提出确定的解决方案。算法的嵌入可以避免基层行政人员在政策执行过程中对决策者意图的曲解，通过设计决策方案或进行自动化决策来影响或取代传统的自由裁量权，进而缩小政策执行效果与政策意图间的偏差，并提升执行效率。然而，算法对传统自由裁量权的替代并非总是产生正向效应。智能算法在不同治理场景中的广泛应用会产生很多新的算法治理问题，信息时代更加复杂多变的治理情境往往需要人与系统的配合才能实现有效治理。总体而言，虽然算法的嵌入并没有实现对人类主体的全面替代，但会对组织制度中结构固化、规则硬化、内容僵化等刚性特征产生放大效应，从而显著压缩政策执行过程中基层行政人员的自由裁量权作用范围，这也成为当前的主流认知。

（二）算法官僚的塑造与运转机理

当被用于执行公共领域的治理任务时，算法实质上是作为一种非人类的公共权力行使者来替代人类主体行使组织权力，因而算法治理也是一种由算法来行使权力的治理。在此过程中，对制度结构和治理任务的适配塑造了算法的运转逻辑，进而在治理体系中形成了一种新的组织形态。由于这种新的组织形态是对传统官僚工具理性的延续，一些学者将其概念化为算法官僚。

1.算法官僚的塑造与相关行为主体

算法官僚是一种将人、算法和数据资源结合起来的新型社会技术系统，在这种系统环境中，行政人员和智能算法配合可以对复杂的治理环境进行解析，进而通过自动化行政或者辅助传统官僚决策等方式实现治理效能的提升。算法官僚是算法在治理体系中嵌入并被组织制度塑造所形成的产物，也可以视为一种基于算法的治理形态。在这种治理形态中，算法具有环境感知、数据分析等核心能力，将各类政治、经济和社会规则以及公共事务处理流程进行标准化和代码化并实现治理的可计算化，因此算法官僚的构建过程实质上是政策规则及执行逻辑内嵌于算法系统运行的过程。由于治理的复杂性以及算法的技术局限性，这种规则内嵌及运行的过程会受到宏观、中观、微观等不同维度因素的影响，其中宏观层面主要涉及政策规则的制定，中观层面主要涉及组织目标的确定和日常事务的形式化，微观层面主要涉及人类主体对算法规则的使用方式。具体而言，算法官僚的功能及应用范围主要由宏观层面的政策要求以及中观层面的组织目标决定，其实际运转方式则由中观层面的组织工作流程、微观层面的人类主体交互以及算法系统的设计方式共同塑造。

就算法官僚的构建过程而言，其设计运行离不开人类主体的参与，这些主体在一定程度上影响了算法官僚数字裁量权的执行规则以及运行逻辑。他们包括：（1）公共组织行政人员。他们是在传统治理模式下拥有自由裁量权的政策执行人员，在算法系统设计应用过程中会对算法官僚数字裁量权的运转逻辑及使用方式产生一定影响，其作为部分数字裁量权的传统行使主体，会通过与技术人员的沟通来降低传统自由裁量权向数字裁量权转化过程中的偏差。（2）算法系统开发人员。他们是实际完成算法系统开发及维护工作的技术人员，在算法系统的裁量范围、目标导向以及业务逻辑等方面并无太多决策权，但在技术层面对具体算法模型、数据结构、参数设定等方面的自主选择权也会对算法系统的实际运行效果产生影响，且这种影响会随着算法系统智能化程度的提升而逐渐被强化。

2.算法官僚的运转与裁量权转移

算法在治理体系中的嵌入也伴随着裁量权由人类主体向算法的转移过程，通过将决策纳入严格规则控制的算法程序中，算法官僚具有了一定的“数字裁量权”。算法官僚数字裁量权的行使是通过流程的算法化和对数据的分析来影响或取代人类的判断，可以通过“公正”或“客观”的算法过程消除人类主体进行自由裁量时的偏见，但并不会完全剥夺人类主体的自由裁量权：一方面，算法官僚数字裁量权的行使需要对治理任务进行自动化处理，在历史数据分析和治理场景预估的基础上进行算法流程预设，进而通过对现实数据的感知在执行策略库中选择合适的策略，其决策效果会受到任务复杂性和不确定性的影响，因而一些复杂性和不确定性较高的任务往往仍需要人类主体进行裁量；另一方面，算法官僚的产生也使人类主体在开发、部署和使用算法系统的一些决策中拥有了自由裁量空间，传统自由裁量权可能被内置到算法系统并在算法官僚运转的过程中发挥重要作用。总体来看，算法系统运转的效果在很大程度上依赖于人类主体的解释、治理的制度背景等因素，当前的治理过程仍呈现出“人-机”协同的样态。

在整个“人-机”协同体系中，算法官僚与人类主体的交互可以被理解为“一个组织围绕其行动和决策使用算法重新安排其工作程序的过程”，在实践中主要有以下两种模式：（1）以“技术限权”为核心逻辑的“算法笼子”，即通过算法的引入来压缩人类主体在决策执行中的自由裁量空间。从算法官僚的角度来看，大量行政工作被分解嵌入至系统的算法逻辑之中，具体治理场景中的再决策权在时间上被前置于算法系统设计之初，在层级上被提升至负责算法系统运转的组织层面，甚至一些具体的执行操作也转由算法系统完成。从人类主体的角度来看，算法的介入为其工作的开展施加了新的限制。这种限制一方面表现为合规性约束，即规则的增加与过程的留痕对行政方式选择上的约束；另一方面表现为决策性风险，即自身判断与算法相悖时，忽视算法运行结果而行使自由裁量权所面临的问责风险。（2）以“技术赋能”为核心逻辑的“算法同事”，即通过算法的引入来提升人类主体在具体场景中的行政能力，这种赋能一般通过提升信息质量、强化执行效率、丰富治理手段等路径实现。在这种模式下，人类主体现有的专业判断模式会通过算法系统的使用得到进一步加强，来自算法的信息在与其他形式的知识相结合应用的过程中实现了技术赋能的作用。从算法官僚的角度来看，人类主体可以完成一些自动化程序不能解决的问题，并在算法系统出现偏差时及时介入并进行纠正。从人类主体的角度来看，算法官僚可以为其进行科学的行政决策提供更多技术支持，有时还可以对一些难以解决的治理问题进行某种程度的缓冲。

算法在与制度相互型构的过程中也形成了算法权力这种新的权力形态，而算法权力在权力配置、运转过程及微观实现等方面带来的变化会影响既有治理体系中权力的整体运转模式，可能导致治理权力的部分失序，进而引发一系列风险。

（一）算法权力配置使用的风险

算法在治理体系中的嵌入改变了既有的权力结构，这种改变在相关制度体系不完善的情况下会使一些主体获取部分缺乏充分监管的权力，从而带来权力异化的风险。首先，作为一种治理工具，算法在效率提升、流程改进、业务适配等方面可以显著提升公共组织在行政决策和执行方面的能力，使得掌控算法系统或与算法系统联系紧密的组织获取更多的话语权。在此背景下，地方行政组织基于行政发包制的逻辑对算法系统的建设使用有着相当的自主权，同时在“晋升锦标赛”的模式下又对完成一些考核指标有着强烈诉求，当算法系统自身的政策目标与行政组织的考核指标相冲突，或算法的影响范围大于其政策范围时，数字裁量权便会产生显著的异化风险。其次，社会运转的算法化会改变社会主体的权力作用范围，尤其是掌握平台运营权的科技公司，其基于对数据资源的掌控和对平台的运营，事实上已经拥有了一定的公共权力并成为了治理体系中重要的治理主体，但其逐利的组织目标与公共价值的目标往往并不一致，平台算法系统的构建以及平台秩序的产生更多的是基于商业逻辑，这导致在平台治理过程中会出现商业利益与公共利益的相互混杂，从而导致平台权力滥用的风险产生。最后，平台权力在治理体系中的结构嵌入也改变了政府与平台企业间的交互模式，二者之间增加了一种合作治理的关系。在这种合作治理的模式下，政府部门对网络平台治理的介入往往要以平台企业作为中介和执行者，有时会产生政策执行失真、治理效果滞后的风险。

（二）算法权力运转的过程风险

算法在治理体系中的嵌入也使得权力的微观运转机制发展为人类主体自由裁量权与算法官僚数字裁量权的交互配合。这种“人-机”协同的体系虽然可以有效规范行政程序中的权力行为并提升治理的公正性，但其对人类主体自由裁量权的限制存在一定的局限性：一方面，算法系统往往难以涵盖治理环境中的全部要素，同时也难以完全掌握人类主体的知识和技能，因而其在技术层面上难以实现对自由裁量权的完全规制；另一方面，算法系统的运转需要基础设施的保障以及数据的支撑，而人类主体负责基础设施的维护并决定了算法的可用数据，因而算法对传统自由裁量权的规制行为并不具有独立性。算法官僚的形成虽然替代了行政人员的部分职能，但这些职能所包含的自由裁量权有时会被内置于算法系统之中并形成新的系统官僚，而这种新的系统官僚仍可能对算法系统的运行进行过度控制并产生新的腐败。此外，算法嵌入对自由裁量权的过度限制还可能使行政人员逐渐丧失主体性与裁量能力，进而产生规则痴迷、程序主义、流程僵化和责任推卸等问题，对整体治理体系的运转产生消极影响。

（三）算法权力实现的过程偏差

算法官僚本质上是一种由人类主体构建的智能系统，在数据筛选、算法选择、编码设计、运行维护等各个阶段都存在一定的主观性，这种主观性可能导致系统运行结果与原有政策意图出现偏差，从而产生算法官僚的数字裁量权异化的问题。这主要体现在业务和技术两个层面：（1）数字裁量权在业务层面的异化更多的是传统自由裁量权异化在算法系统中的延续。在系统的设计阶段，现实工作流程的算法化需要业务人员与技术人员的充分沟通，而业务人员不懂技术、技术人员不懂业务的现象普遍存在，这无形中增加了沟通成本，降低了工作效率，可能导致业务算法化时出现偏差。此外，如果在算法化过程中不能充分考虑所有情况或没有相应应急预案，则可能导致算法失灵、数字鸿沟、算法歧视等问题的出现。在系统使用阶段，算法官僚运转过程中相关主体在业务判断、操作行为等方面出现失误，或是因个人利益驱使出现行为失当，都可能产生数字裁量权异化的后果。（2）从技术层面来看，算法官僚作为一种技术系统，其实际运行效果与设计人员对具体算法模型、数据结构、参数设定等方面的选择也有一定关联，这些选择的差异有时也会产生一定风险。首先，算法的设计往往会基于成本效率的考虑，在完成需求功能的前提下尽可能地减少资源使用，但过分压缩资源占用或对所需资源预留不足都可能导致算法系统运行异常，从而产生算法权力失位现象。其次，算法开发过程中的设计编码缺陷往往无法完全消除，这些缺陷在系统上线前的测试中难免会有遗漏，并在现实治理场景中产生影响。最后，算法的数字裁量权在作用范围、影响程度等方面相较于传统行政自由裁量权都有了质的提升，即在提升其权力强度的同时也会显著放大权力异化的不良后果。

算法权力的运转风险源于其自身的技术性特征以及其对既有制度规范、监管模式带来的挑战：一方面，算法权力的实现要依托具体的算法，而算法在开发使用的过程中往往会存在一定主观性空间，这种主观性空间会给权力运转带来不确定风险；另一方面，算法权力作为一种新的权力形态，既有的制度规范和监管模式往往难以对其进行有效适配，无论是制度规范建设的滞后性还是监管模式的技术局限性都可能使其陷入权力失序的风险。因此，对算法权力的有效规制需要充分考虑制度建设、监管模式、主观引导等方面的因素，结合权力理论中对权力制约的策略，应分别从制度制约、伦理制约、权力制约和权利制约这四个方面进行路径选择。

（一）制度路径：完善算法治理的制度规范体系

1.法律法规：制度层面的约束

当前，我国已经出台多项涉及算法治理问题的法律法规，这些法律法规涵盖了算法权力运转过程中对平台、数据及交互行为等各类要素的管理以及信息服务等各项业务的规范，成为算法治理体系有效运转的重要保障。然而，相关法律法规体系虽初具雏形，但仍然是碎片化的，在全面性、精准性和及时性方面存在着一定的不足，需要从以下几个方面进行优化：（1）重点解决算法权力运转过程中的“无法可依”问题。算法嵌入在改变相关领域运转逻辑的同时，也不可避免地带来大量法律空白，使得很多算法系统的应用过程都处于无序状态，也带来算法权力的监管困境。由于算法技术迭代的快速化以及应用模式的多样性，相关法律问题会随着技术创新而持续出现，需要不断制定新的政策法规来解决算法权力运转过程中的“无法可依”问题。（2）持续推进相关法律法规的精细化。在填补性立法动机的驱动下，法律规范的制定往往遵循着简略式立法的逻辑，可能导致执行过程中面临流程标准不清晰的困境，还会催生大量的授权性规范与执行性政策，给执行部门自身利益的植入创造空间。因而，为了保障法律法规的价值发挥及权威建立，需要在“有法可依”的基础上持续推进法律规范的精细化。（3）不断丰富相关领域的立法形式。算法技术的快速发展与立法程序的规范性要求在时效性层面会存在一定程度的冲突，导致法律法规的应用常常存在一定的滞后性。针对一些较为复杂的算法治理情境，结合具体治理问题探索高效灵活的立法形式，从而在一定程度上缓解法律法规在算法权力规制过程中的滞后性问题。

2.标准体系：技术层面的规范

作为“软法”工具箱中的核心构成，标准体系是实现多方共治的重要工具，对复杂多变的算法治理情境有着更强的适应性，可以实现对相关法律法规的有效补充。标准体系主要从技术层面对相关工作进行业务流程、技术细节等方面的规范，以《信息安全技术 机器学习算法安全评估规范》国家标准为例，其立足于对机器学习算法进行安全评估，针对需求、设计、开发训练、验证评估、运行阶段的算法安全，结合算法安全风险点，对人工智能算法的安全评估指标、评估方法、评估流程进行详细研究，可以为机器学习算法开发方、用户方和第三方等相关主体开展机器学习算法安全评估提供实践指导。从覆盖范围的角度来看，标准体系包含国家标准、行业标准、地方标准、团体标准和企业标准等不同类别，可以从不同层面对相关工作进行规范，既可以保证基本技术规范的覆盖性，又可以兼顾细分领域技术规范的针对性。从时效性的角度来看，标准的制定更为快速灵活，可以在面临突发状况时更快响应对相关工作的规范需求。标准体系这种时效性上的优势可以有效匹配算法快速迭代的技术特征，对一些具有较强创新性和突发性特征的治理场景中的算法权力实现一定程度的规制。

（二）伦理路径：强化算法治理的伦理道德引导

以公共价值为导向对算法伦理的标准进行梳理，在将之融入到算法设计运转流程的同时，对相关主体进行价值层面的引导，有助于化解算法治理过程中的价值分歧并实现算法权力的有效行使。

1.伦理共识：价值导向的引导

算法技术的广泛应用实现了对传统伦理规范的继承和发展，也塑造了算法时代特有的伦理道德环境。从伦理路径对算法治理体系进行完善，首先要对社会的价值导向和伦理共识进行更新，具体可以从以下两个方面着手：（1）明确算法伦理的准则。算法伦理问题凸显于机器学习等技术快速发展应用的阶段，相关伦理议题也集中于人工智能领域，因而对算法伦理的认知主要是对人工智能伦理的认知。当前，我国就人工智能伦理问题已经发布了一系列的规范性文件，其中对基本的伦理准则作出相应说明，主要包括促进公平公正、保护隐私安全等内容。然而，由于人工智能等算法技术在应用场景上的动态性和复杂性，相应的伦理准则仍有待根据不同的应用领域进行细化完善，以最大限度地化解不同主体在算法伦理层面的分歧。（2）推进算法基础知识的普及。算法时代对伦理的认知与算法知识的获取也有所关联，个体对算法技术的了解程度会直接影响其对算法技术应用的态度，而算法知识的匮乏可能会使这种态度与现实情况有所偏离。因此，通过推动算法基础知识的普及，使公众更多地掌握算法技术的基本原理和运转逻辑，有助于预防或扭转公众对算法的错误认知，从而促进整个社会层面算法伦理共识的达成。

2.伦理嵌入：过程风险的控制

算法在伦理层面的表现主要取决于人类主体如何将伦理规范转化为具体的算法逻辑使之有序运行，相关的风险主要来源于以下几个方面：（1）数据资源的使用风险。算法的运转往往需要海量数据的支撑，而这些数据在代表性、时效性、准确性等方面的不足可能导致公平性、可信性等方面的伦理风险。同时，算法收集的数据常常涉及用户隐私，且这些数据的存储应用难免会存在泄露风险，因而在算法使用的实践中还会存在隐私保护等方面的伦理问题。（2）算法模型的设计缺陷。在算法的设计过程中，模型参数选择不当、系统韧性不足所导致的安全性风险，智能算法的技术特性和复杂逻辑所带来的透明性、可解释性和不可预知性风险，都可能导致算法系统的使用存在相应的伦理问题。（3）人为因素的主观影响。从数据采集校准、筛选解释，到具体算法的选择、设计以及输出解释，算法在开发应用的各个阶段都在一定程度上依赖于技术人员的主观判断，而这种主观判断的引入会带来算法不确定性的增加。基于上述分析，应当从数据使用、算法设计、主体行为等方面制定相应的规范性标准，最大限度地进行伦理风险的过程控制。当前，《人工智能伦理治理标准化指南》等文件已经在伦理框架、风险评估、技术工具等方面制定了参考准则，但相应的伦理标准仍需要结合具体的应用领域进行细化并随着技术的发展进行更新。

3.伦理教育：技术向善的内化

虽然算法技术本身是中立的，但在算法设计和应用的过程中，算法设计者以及运营维护人员可能会有自身的偏见，这会直接导致算法的应用出现价值导向的偏差，进而影响算法权力的实现和运转过程。从组织层面来看，平台企业、科技公司等算法的设计维护机构要更多地承担起对技术人员算法治理相关行为的引导责任：一方面，要通过组织对社会责任的积极承担从环境上影响技术人员的相关行为；另一方面，要探索将算法伦理相关行为融入到技术人员的工作绩效及考核指标体系之中，从制度层面约束其算法伦理行为。当前，技术人员的教育培养体系往往更注重技术能力的提升，对价值导向问题有所忽视，使得“技术至上”等工具理性导向广泛存在于技术人员群体之中，进而导致算法实现过程中工具理性与价值理性的背离。在此背景下，应当树立“科技向善”的理念，强调公共价值在算法权力运转实践中的重要性，并对算法从业人员的教育培养体系进行完善，引导其正确运用科学技术为社会的健康发展创造福祉：一方面，要在技术能力提升的同时加强技术伦理的学习，使技术人员在实践中可以从道德层面进行自我约束；另一方面，要在伦理制度和标准体系构建的基础上，通过行业协会等组织对相关人员进行培训引导，实现工具理性向价值理性的转变。

（三）权力路径：优化算法治理的权力运转机制

从用权力制约权力的角度来看，纵向监管和横向监督是防止算法权力滥用的两种主要方式，其中前者强调用行政权力来压缩算法权力的自由裁量空间，而后者强调用分权机制来防止算法权力成为一种失控的绝对权力。

1.行政介入：体系层面的监管

算法治理过程中的权力运转逻辑主要是算法权力与监管部门行政权力间的博弈，因而监管部门的行政介入成为了约束算法权力的基本方式。然而，当前对算法权力行使过程的行政介入尚未形成系统完善的机制，需要从以下两个方面进行优化：（1）建立算法权力清单制度。算法运行过程的不透明特征给系统掌控者带来暗箱操作的空间，这是算法权力滥用现象产生的重要原因。通过对治理体系中赋予相关行为主体的权力进行梳理，结合算法的业务范围及操作规范建立相应的算法权力清单，同时将算法权力的行使纳入到监管部门的常态化监督体系之中，进一步明晰算法权力的边界、压缩算法权力滥用的空间。（2）通过行政吸纳的方式将平台企业融入到治理体系之中。在网络平台空间的治理过程中，政府与平台企业尚未建立起良性的合作治理机制，导致政府部门难以有效监督平台治理过程和平台企业难以精准把握相关政策导向的双重困境，进而产生治理效果滞后、治理目标替代、治理资源浪费等问题。通过强化政府与平台企业在公共治理过程中的协作，使现有行政体系可以有效吸纳平台企业在技术创新、精细管理等方面的能力，有助于强化政府对平台企业的过程监管。

2.算法审计：治理过程的分权

算法权力往往集中于算法操控者手中，导致其处于一种绝对权力的状态，极大增加了权力滥用的风险。这种绝对权力的形成主要是由于对算法掌控者的决策和执行行为缺少过程监督，即缺乏有效的外部监督机制来对算法权力的行使进行制衡。然而，外部监督机制的建立会面临多重困境：从技术角度来看，算法的不透明性特征增加了过程监管的难度与成本，实施全过程监督一般不具有可行性；从制度角度来看，知识产权与商业保护的制度需求进一步增加了对算法权力进行过程监督的阻碍。面临这些困境，算法审计作为一种较为灵活包容的监管制度，可以基于算法的技术特征进行适应性调整，实现对“算法黑箱”技术阻碍和商业保护制度阻碍的规避，通过外部监督权的构建来约束算法权力的运转。当前，《网络数据安全管理条例》等制度规范在数据使用层面对监管部门审计、第三方部门审计等工作提出要求，但具体工作的推进仍须进一步完善：一方面，传统审计人员往往不具备相关的技术背景，难以适应算法审计的专业性要求；另一方面，现有的外部算法审计较少采用对算法设计过程、代码体系结构等内容进行评估的“底层审计”模式，在一定程度上制约了审计的效果。

（四）权利路径：构建多元协同的算法治理模式

任何权力的滥用都会给公众权利带来损害，而公众在防止自身权利受到损害的同时，也会对权力运转形成一定制约。用权利制约权力的基础在于对公众知情权、表达权、参与权和监督权的保障，其中监督权受算法技术应用的影响尤为显著，成为算法时代用权利制约权力最为凸显的一种手段。

1.社会监督：公众权利的保障

公众作为算法系统的主要服务对象以及算法权力行使的最终作用客体，其对算法治理过程及结果的评价和监督等行为都是算法治理中的重要内容。然而，社交平台的兴起虽然可以使公众获取更多的信息并进行更加自由的表达，但其获取信息的真实性、公正性以及意见表达的自主性在很多情况下都难以得到保障。在此背景下，公众有时会基于不准确的信息和诱导性的判断形成自身意见，从而制约了其监督权的正常行使。此外，在将个体利益诉求汇集为集体诉求并形成舆论压力的过程中，平台企业可以基于算法的不透明性特征来进行相应的操控。虽然这种舆论操控手段的应用在很多情况下是基于公共价值的考虑，但有时也会受到行政权力、商业利益等因素的干扰，给社会监督效能的实现带来阻碍。针对算法治理体系中社会监督机制运转的上述困境，一方面要持续加强相关制度体系和行政监管模式的优化完善，用制度和权力路径对算法权力的制约来保障用权利制约算法权力的有效推进，另一方面还需加强对公众的算法知识普及和社会责任宣传，在引导公众准确合理表达自身利益诉求的同时鼓励其积极发挥好社会监督的作用。

2.敏捷治理：迭代优化的机制

现有对算法权力的规制主要依赖政府的行政监管与平台企业的自我约束，但受制于政府获取治理细节信息的不足与企业的自利性价值取向，这种权力规制模式往往难以取得预期效果。同时，针对算法权力的监管通常有着事后监管的特征，在效果上难免具有一定的滞后性。在此背景下，敏捷治理通过构建一种更具包容性、可持续性的决策过程，可以有效补充现有算法权力制约体系的不足，更好地实现对公众权利的保障。就治理节奏而言，算法敏捷治理更加注重治理的时间和时机，强调“快速回应和尽早介入”，可以更好地适应公众需求变化并有效降低治理风险；就治理方式而言，算法敏捷治理主张以更加灵活的渐进式决策流程来提升算法治理手段的灵敏性，从而更好地适应复杂多变的算法治理环境；就治理主体而言，算法敏捷治理推动了治理主体从以政府和企业为主到政府、企业和公众的协同共治，有助于保障公众在治理过程中的知情权、表达权和参与权，实现公众权利在算法治理全流程的嵌入。与传统治理模式相比，算法敏捷治理更加凸显公众在治理中的主体地位：一方面，迭代优化的治理方式可以在与公众的频繁交互中迅速准确地把握公众利益诉求并将之内化于治理过程；另一方面，强化公众在算法治理中的参与，有助于唤醒公众维护自身权利的主体意识并为以权利制约算法权力奠定基础。在算法敏捷治理模式下，公众可以更多地参与到算法治理的过程中，有助于实现对相关主体算法权力行使的有效监督。

在算法与制度相互型构的过程中，算法的应用强化行政组织的决策权和执行权，推动平台权力的产生，并在一定程度上实现对行政人员的职能替代。既有的治理结构和制度安排也塑造了算法官僚这种新的组织形态，并形成算法权力这种新权力形态。以算法官僚为主体所行使的权力即为算法权力，因而算法官僚的产生、运转以及其与人类主体的交互过程也反映了算法权力的运转逻辑。这种权力算法化的运转逻辑在组织层面会重塑既有的权力结构，在微观层面会改变权力的运转机制，同时也会由于算法化过程的偏差而导致新的权力异化风险。本文基于权力理论中对权力制约的策略，分别从制度制约、伦理制约、权力制约和权利制约等方面分析了治理体系中算法权力的规制路径，有助于在保证算法技术潜能充分释放的同时，规避算法运转可能出现的不可控风险，进而实现算法治理体系的优化完善。