张爱军 曲家谊 | 国家治理现代化风险规制：算法中立原则的祛魅与调适

党的十八届三中全会通过的《中共中央关于全面深化改革若干重大问题的决定》提出全面深化改革的总目标：“完善和发展中国特色社会主义制度, 推进国家治理体系和治理能力现代化。”国家治理现代化是指治理体系与治理能力的现代化。习近平在中央全面深化改革委员会第二十五次会议上强调，要全面贯彻网络强国战略，把数字技术广泛应用于政府管理服务，推动政府数字化、智能化运行，为推进国家治理体系和治理能力现代化提供有力支撑。将数字技术、智能技术广泛应用于国家治理，是实现国家治理现代化的应有之义和必然要求。以算法为核心的智能应用技术逐渐嵌入国家治理的方方面面。算法赋能的治理形态被称为“算法治理”，指算法程序通过数据分析自主完成特定治理任务的行为与过程。这不仅代表着国家治理实践的全面革新，更折射出传统治理思维的纵深转向。

目前学术界对于“算法”与“国家治理”的研究主要集中于两个方面：一是阐述算法应用于国家治理的利弊。算法具有精准实践的治理功能，同时也会对社会伦理秩序和社会伦理规范产生冲击。算法治理会产生不确定风险。二是分析国家治理依赖算法技术产生的影响。对算法的依赖容易使人的能力停滞，对国家治理现代化产生根本影响。依赖算法治理可能导致“隐蔽的不公平”及“有理由的卸责”等现象。现有研究仅提出应对算法治理弊端的相关措施，将算法治理可能产生伦理问题、公平问题、不确定风险归因于算法技术本身的缺陷，并未对其他诱因进行探析。主体将算法中立原则视为实践真理，仅依据算法中立原则进行治理活动。这一原则在实践应用中具有双面性，是导致算法可能产生治理风险的重要原因。基于算法中立原则，算法在国家治理中只会产生正效应，而算法在实际应用中出现上述弊端，消解了“中立原则”的完美性。究其根源，算法中立原则隐藏了算法并非完全中立的真相，使算法赋能国家治理现代化的同时暗存技术忧患。

本文根据国家治理现代化的目标，从算法中立原则的风险出发，分析这一应用原则如何导致算法在国家治理中呈现双面性，并主要解决以下几个问题：为何算法中立原则存在破坏实践的风险？信奉算法中立原则会给国家治理现代化带来怎样的技术隐患？如何化解算法非中立属性给国家治理带来的风险？如何调适算法应用原则，使其与国家治理原则相契合？探析算法中立原则在国家治理现代化中产生的风险，并提出规制理路，有利于国家治理顺应技术发展趋势，回应治理变革需求，实现算法技术实践本质与国家治理现代化的本质深度融合。

一、算法中立原则的风险审思

“技术中立原则”是指立法机构和政府对于各种有关信息及电子商务的技术、软件、媒体等采取中立态度。政府在制定各种规则或标准时，应对各种技术同等对待，给予各种技术公平竞争的机会。技术中立原则最早因1984年的“索尼案”引入美国法律，提出这一原则是为了限制“帮助侵权”的责任，避免妨碍技术的进步。技术中立原则认为技术本身是没有价值取向的工具，技术发展和应用按照自身规律演进，不受人的控制和左右。这个原则一开始主要是用来解决侵权等知识产权方面的问题，后来逐渐为各国所接受并进行相关立法，应用于多个领域。算法作为一种智能技术，是一系列定义明确的步骤或规则，用于解决特定问题或完成特定任务的计算过程。在传统技术中立观念的统筹下衍生出算法中立原则，算法中立原则是技术中立原则在算法领域的具体应用，指在设计和使用算法时，不对特定群体或个人偏袒或歧视，而是以公平、公正和平等的原则对待不同的用户和利益相关方。这一原则认为算法在现实应用中保持真实全面，不带有偏见与歧视，始终保持公正客观。

算法是智能社会科技发展的核心驱动力，作为一种精确而有序的计算方法，可以用来处理数据、执行计算、解决逻辑问题，推动人工智能、大数据分析、机器学习等领域的发展，为各行各业带来革命性创新，在推动科技创新和经济增长的同时，改善社会服务和个人体验，推动治理创新和社会进步。在一定程度上，算法技术应用于国家治理领域比人更精准、更可靠、更公正，因为治理主体可能受自身主观因素以及环境等客观因素的干扰，难以确保在治理行动中始终运用客观思维做出正确决策。算法中立原则消除了治理主体对算法可能产生弊端的警惕性，使算法技术赢得治理主体的信任并被广泛应用于决策、实践等诸多治理活动，有效推动国家治理现代化的进程。在当今智能时代，人类的生产生活被数字技术全面填充。在多个领域内，人类智慧与算法智慧相互结合发挥效益。在如此背景下，在实践中依据中立原则使用算法，尤其是将算法应用于国家治理的重大实践，稍有不慎不仅会扰乱国家治理秩序，还会阻碍国家治理现代化的进程。因此，要对算法中立原则持警惕态度。算法中立原则背后是否暗藏技术风险，应用于国家治理领域是否合理，对这些问题的回答要求从多个维度审思算法中立原则这一概念。

（一）在功能维度上，算法作为客观结构具备中立特性

算法功能中立是指算法在发挥其功能和作用的过程中遵循了自身的功能机制和原理，那么从这个意义上来说技术就实现了其使命。从功能维度来看，算法的运作结构流程十分明确，算法作为推理结构具有固定的逻辑和程式，是一种无主体意识、客观的、公正的编程程序。首先需要明确运用算法要解决的问题或达到的目标，收集充足的、与问题相关的数据在机器学习阶段对算法进行“喂养”。数据是对既往发生的事件、现象、行为等进行的客观记录，算法依据既定的程序学习相关历史数据对客观世界形成一定“认识”。其次将算法转化为计算机程序，嵌入智能软件之中，并进行实验测试，包括编写代码、调试和优化算法，以确保其准确性和高效性。在此基础上，算法模型凭借学习获得的认知在具体实践中进行决策，针对不同领域的特定问题输出信息。对从算法学习到算法应用这一流程进行原理分析可以看出，算法的运行机制在功能维度上具备中立特性。算法作为一种技术，按照规则和程序完成自身设定的功能，能在治理过程中协助主体设计制度、策划治理方案皆源于此种技术逻辑。以此定论算法中立原则完全适用于国家治理领域并不具有说服力。在决策中输出的结果信息是否客观是重要的衡量标准，需要在更多维度对算法进行剖析。

（二）在价值维度上，数据集具有社会属性和不完整性

算法价值中立是认为算法不带有偏见地、客观地、真实地进行决策和实践。数据是人类思想行为的呈现载体，具有社会属性。人类文化是存在偏见的，作为与人类社会同构的大数据，也必然包含着根深蒂固的偏见，“喂养”算法数据集更无法客观反映问题，因此算法的运算结果一定带有偏见。算法学习可以分为自主学习、监督学习以及二者相结合。为实现特定目标，研发者的思维及价值判断会通过数据植入算法当中。在监督学习中，训练算法的数据会被打上“印记”，这些数据包括输入变量（特征）和对应的已知输出变量（目标），带有“印记”的数据就是算法学习的榜样。数据集承载了设计者的价值偏向，人的干预使数据集具有社会属性，导致算法本身具有偏好和目标。在一定程度上，算法之所以能够生产出普遍认可的决策信息，是因其学习的数据集范围广泛、数据样本数量庞大。大数据时代，数据定义人类的现象十分普遍，数据成为人类的镜鉴。但是，数据鸿沟问题依旧存在，一小部分人生产的数据量十分有限，数据集因而并不具备完整性。不同类别的样本数量不平衡，无法保证数据集的完整性和准确性。将某一个体或某一群体的社会行为排除在外，导致算法在训练过程中对少数类别的样本了解不足，从而影响算法的识别和判断能力。数据集中缺失的部分社会信息可能对人类的决策和行为具有重要影响。当数据数量不充足、数据样本覆盖不全面、数据存在缺失、错误和误导性信息时，就会使算法形成具有倾向性的价值观念。

（三）在责任维度上，算法功能与实践后果并非相互分离

算法责任中立的含义是算法使用者在主观上没有故意倾向的前提下不需要对算法作用于社会的负面效果承担责任。算法技术由科技公司设计，投资者研发算法的最终目的是盈利。为实现特定目标，研发者的意图及价值判断会通过数据植入算法当中。算法产生什么样的效果，在一定程度上取决于设计者和使用者所追求的利益、价值及目标。在本质上，算法功能与实践后果难以分离。责任作为一个规范评价的概念，本身就是价值判断的实践。算法责任中立原则认为，凭借算法的客观属性可以实现责任的豁免，这在一定程度上背离了责任的内涵。技术中立原则的提出本是为了打消研发者和使用者的顾虑，从而更好地保护技术的发展，促进技术的应用。若没有一个清晰的责任概念, 人类就无法对技术进步、技术进入社会结构和引发社会观念变化的方式作出评价。算法责任中立原则应用于国家治理领域，算法技术就可能成为治理主体推卸责任的“避风港”，算法作为技术工具自然也无法承担责任，不仅影响治理实践的结果，也会使主体的治理活动陷入混乱。

（四）在应用维度上，实践环境变更算法难以持续客观

技术中立至少有功能中立、责任中立和价值中立三种理解，所以对算法中立原则的探析多从功能、价值及责任维度出发。数字时代算法已经深入人们生活、学习、工作的各个领域，因而需结合实际应用环境对算法中立原则进行思考。算法应用于多样的社会生活实践，实践环境不断变化，算法的应用场景也随之改变。算法运作是否能与不断变化的社会背景和实践场景相匹配，即算法持续中立？算法拥有主动学习的能力，在无监督学习中算法能主动选择样本进行训练，利用实践过程中得到的反馈数据来提高自身性能和准确度，从而不断适应多变的应用环境。理论上算法能够通过主动学习保持客观中立性，但算法在很长一段时间依旧停留在监督学习阶段，通常需在人为的干预下，在特定的学习框架内进行，且只能机械地完成学习任务，尚不具备完全自主学习的能力。准确来说，算法在应用中不能持续中立。国家治理实践复杂且多变，在面临新的治理问题和社会现象时，难以评判算法是否能在全面掌握社会信息的基础上发挥作用。

在功能、价值、责任及应用四个维度对算法中立原则进行检视，消解了算法中立原则的魅力，其存在实践上的失偏和理论上的欠缺，揭示了算法并非完全中立的真相。算法中立实际上是基于固定程序和规则的底层中立，在实现其功能的过程中确实具备客观属性。算法中立的本质是价值中立，而算法本身带有人的思想和偏好，具有价值判断。即使算法中立完全成立，这一特性也由于技术上的缺陷而具有时效性。算法中立原则在价值、责任及应用维度都暗藏技术风险，信奉这一原则进行国家治理具有两面性：一方面有利于促进算法应用于国家治理领域，弥补主体治理的欠缺，推动国家治理智能化；另一方面算法在多个维度呈现非中立特性，使国家治理存在技术风险，尤其是算法具有价值偏向，可能对治理实践造成不良后果。

二、信奉算法中立原则，算法治理存在弱化赋能倾向

国家治理体系是指“在党的领导下管理国家的制度体系，包括经济、政治、文化、社会、生态文明和党的建设等各领域体制机制、法律法规安排，也就是一整套紧密相连、相互协调的国家制度”。国家治理能力是指党和政府“运用国家制度管理社会各方面事务的能力，包括改革发展稳定、内政外交国防、治党治国治军等各个方面”。根据国家治理现代化的具体内涵，其衡量基准可以概括为三个层面：制度层面、实践层面及主体层面。制度现代化是指制度逐渐完善且与治理实践相协调，不断彰显中国特色社会主义制度的人民性；实践现代化是指智能技术运用于治理实践释放治理效能，并以智能技术为核心实现治理模式的数字化转型；主体现代化是指治理主体的认知力、判断力、执行力在治理实践中不断增强。

算法作为先进智能技术，能在制度、实践及主体层面为国家治理现代化全面赋能：提供制度信息，完善治理顶层设计；进行精准实践，释放国家治理效能；实现主体解放，激发主体治理能力，有力推动国家治理现代化的进程。无论是国外立法还是国内立法及学者观点，都认为应将技术中立视为基本原则，算法中立原则在技术中立概念下逐渐成为大众共识。但算法中立原则这一概念本身隐藏着算法非中立的事实，若完全信奉这一原则使用算法，技术风险必然暗存于国家治理之中，会弱化算法在制度、实践及主体层面的赋能效果，在一定程度上会阻碍国家治理现代化的进程。算法中立原则应用于国家治理实践中存在的隐忧不容忽略。

（一）依据中立原则获取算法信息，治理制度完善受阻

信息在制度制定中起着重要的作用，信息收集有助于主体识别问题、分析需求、评估制度及改进制度。算法能为政策制定提供背景信息和基础数据，通过大数据分析和机器学习算法，对大量数据进行挖掘和分析，提供较全面且有价值的社会信息。借助“算法之眼”，国家“视力”逐渐清晰，挖掘与提炼社会要素的数据，并分析不同要素交互后形成的信息，国家行动有了完备的知识支撑，进而提高了制定政策与干预社会的准确性。机器学习算法对历史数据进行训练和建模，并对相关现象的趋势和问题进行推断，预测未来的社会变化，为政策制定和资源配置提供科学依据及预测能力。由于数据具有社会属性和不完整性，算法程序运行的过程中会延续或者放大数据集中的偏见，算法通过数据所提供的制度信息并不具备真实全面的客观属性。依据中立原则完全信任算法用于制度完善，其价值层面的非中立属性会影响顶层设计的适用性并可能存在错误导向，阻碍治理制度的完善。

第一，依据算法价值中立原则，易将虚假的算法信息作为决策依据，治理制度难以与治理实践相协同。国家治理制度需要与治理实践相契合，治理实践中反馈的信息与数据是制度修订的重要依据。实地调查、公众反馈等传统方式虽然效率较低，但治理主体能对收集的信息与实际背景相联系从而产生相对客观的结论。治理主体基于算法中立原则将算法应用于制度制定，认为算法能够真实反映现实，相信算法所输出的社会信息，相信算法能够消除传统时代数据采集存储及处理成本高、难度大的弊端。而事实上，控制数据的主体具有特定的意图和偏好，这会影响数据采集的对象、范围、标准和时间等参数，进而可能导致带有意图和偏好的算法产生某种价值观，导致算法在实际运行中会对特定的国家、地区、职业、群体产生歧视和偏见，难以真实反映实际情况。将算法反馈的、带有价值倾向的信息作为治理制度的可靠依据，大到国家法律制度，小到企业管理制度，都可能存在欠缺，难以与社会实践相协同，治理主体若据此开展治理实践极有可能引发社会公平正义问题。

第二，依据算法价值中立原则，易将片面的算法信息作为有效依据，影响治理制度体系的完备性及其人民性的实现。国家治理现代化需要治理体系具有完备性，能够全面覆盖多元治理领域。由于数字鸿沟的存在，所有群体的社会实践并不一定都包含在数据之内，在数据覆盖范围之外的人就成为“数字流民”。“数字流民”所涉及实践领域内的活动信息也不会被纳入数据范围，算法因而无法提供各领域完整的治理信息。在此情况下，若依旧按照价值中立原则使用算法，治理领域的多样性和复杂性则无法捕捉，依据算法运行得出的信息因此不能作为完善多领域治理制度的唯一依据。人是国家治理的重要客体也是最终目标，不完备的数据及信息还会使算法影响国家治理制度系统中人民性的实现。国家治理制度系统内含人民至上的理念，秉持公平正义的价值理念，全面保障人民群众的发展权益和根本利益。而数据集的片面性导致其反映的信息具有误差，算法本身的设计也具有价值偏向，算法不能实现真正的价值中立。在制定制度时，部分人群的利益诉求可能会被排除在制度议程之外。因此，在算法参与制度建设时若奉行中立原则，部分人民的历史主体地位可能得不到保障，在一定程度上违背了国家治理的本质追求。

（二）奉行中立原则采用算法决策，导致治理实践失偏

利用社会活动产生的海量数据，算法“对这些数据进行系统地加工并且正确地阐释，使得人们可以通过这些数据对个人或者群体及其行为进行深入的推断”。通过挖掘和整合治理对象关注的热点词汇和关键词汇，可以了解公众的治理需求以有效地回应，算法技术根据治理需求进一步提供精准的治理方案。精准实践有利于释放国家治理效能，节约国家治理成本，并改善国家治理的绩效。但若依据算法中立原则完全相信算法输出的治理决策结果，对算法在治理实践中的运行结果未进行严格的监管和审查，中立原则掩盖算法在价值维度和应用维度的非中立属性，则可能导致算法违背公平正义的治理实践理念，算法支撑的数字化治理也会因此产生风险，使治理实践陷入越治越乱的困境。

第一，算法遵循公平正义的治理理念与输出的治理方案匹配度减弱。“算法依据被格式化的治理对象的数据所决策的行为难以真正反映治理对象的需求”，反映需求的数据信息本身可能带有误导性，而算法在发挥功能时只会依据程序和规则处理数据，依据误导性数据得出的需求信息因此也会存在偏差，这会影响后续制定治理方案的准确性。在此基础上，算法本身的歧视可能使部分人的治理需求被忽略。若依据算法价值中立原则直接采用算法输出的治理方案，其中必定也会暗含价值偏向。算法遵循的“公平正义”与治理方案追求的“公平正义”的匹配度减弱。“信息茧房”“算法杀熟”等现象都是算法歧视的表征，也是算法价值中立原则不成立的佐证。奉行中立原则使用算法，可能违背治理方案所追求的价值理念。执行算法输出的治理决策可能会对治理实践造成破坏，引发社会公众的不满。治理方案及其效果无法使治理对象满意，国家治理实践的现代化更无从谈起。尤其是在处理人际交往、价值评价、利益分配等直接关涉人与人之间关系的治理事务时，算法决策会被认为比人类决策更不公正、更不可靠。

第二，算法输出的治理决策与当下实践匹配能力减弱。国家治理的对象、内容、领域复杂多样，治理的客体可能瞬息万变，这就要求算法治理程序具有灵活性。算法程序是基于历史数据产生的算法及其相应的运算程序，数据若无法及时更新会导致算法的客观运行也具有时效性。治理形势发生变化以后，算法程序无法自动进行更新，面对多变的环境不能实时调整更新算法，导致算法的数据运行滞后于当下的客观实践。中立原则庇护下算法中暗含的非中立因素会潜入治理的实践之中，无法与当下治理实践需求匹配，若不加警惕，国家治理实践会落入技术陷阱。网络化的治理模式促使算法输出的、与当下需求错位的治理信息通过数字化平台成网状传播。若秉持算法持续中立原则使用算法，掩盖了算法的技术性弊端，治理的效果将大打折扣。若不对算法系统进行及时更新，随着时间推移，算法的运行只会愈发脱离客观实践。运行过时的算法数据会使治理实践存在偏差，甚至可能完全失效，治理实践容易陷入混乱之中。

（三）主体秉持中立原则使用算法，治理主体能力弱化

英格尔斯指出，“一个国家，只有当它的人民是现代人，它的国民从心理和行为上都转变为现代的人格，它的现代政治、经济和文化管理机构中的工作人员都获得了某种与现代化发展相适应的现代性，这样的国家才可真正称之为现代化的国家”。中国式现代化强调人民性，人民不仅是治理服务的目标，也构成现代化的治理主体。国家治理现代化的根本标志是人的现代化。算法治理在很大程度上实现了人的解放，可以代替主体进行一些程序化的治理活动，例如信息收集、数据处理、舆情监测等工作，治理主体从而能从“低层次”的治理活动中得到解脱，有更多的时间和精力进行更有价值的治理实践。这也从侧面推动治理主体的认知力、判断力、执行力在治理实践中不断增强。传统的治理实践是人与人之间的沟通协商，中立原则作为算法的应用准则，主体对算法技术放下戒备建立起信任，推动了主体与算法技术之间的交流。这虽是国家治理主体现代化的表现，但治理主体忽略客观证据，过度信任算法所输出的治理信息，长此以往治理主体可能产生“算法依赖症”，“最重要的表现就是程式化地把选择、决策、信任、责任等交给算法，把思考交给机器，官员与算法的角色换位”。同时责任中立原则又能够使主体在一定程度上免责，为避免承担责任，主体更趋向于依赖算法，放弃从实践中提升自己的认知，也就放弃了提升自身能力的机会。主体治理能力弱化，从根本上阻碍了国家治理现代化的进程。

第一，将算法中立原则视为实践真理，引致主体过分依赖算法治理。技术是人类创造的产物，算法处于治理主体的从属地位，人类支配算法应用于国家治理实践之中。算法在一定程度上能够脱离人类自动化决策与运转。在算法中立原则的“滤镜”下，人们认为算法在国家治理中产生与治理主体同等的乃至超越治理主体的作用与效果，以此认为算法和人类一样处于治理主体的地位。然而，凭借算法中立原则，完全依赖算法的无人化治理容易使治理主体产生治理惰性。智能化、自动化的算法技术不仅易使治理主体产生惰性，并存在主体—算法工具角色颠倒，主体反被算法驱使的可能。中立原则作为算法在实践中的应用准则，使主体认为算法比人类更加客观可靠。算法不仅能拥有和人类一样的主体地位，甚至人类完全听从算法的指令进行治理实践。而治理主体成为算法治理的辅助者和执行者，被动执行算法的决策信息。治理主体的现代化体现在其认知力、判断力及执行力的全面提升。其中，认知力要求治理主体能时刻把握社会发展趋势，感知社会环境变化，以此为基础应对社会风险；判断力要求主体在主客观因素结合的情况下能作出正确的价值判断；执行力则要求主体能根据真实环境提出恰当的治理方案并且持续调整。亲自投身于治理的实践中是治理主体自身能力提升的基础，在治理实践中提升自身治理能力。若主体放弃从实践中获得认知和判断，把本属于人的治理活动全部委托给算法，只是被动听从算法决策并盲目执行，必然导致治理主体能力弱化或停滞。

第二，算法责任中立原则成为主体卸责的正当理由，主体愈发依赖算法治理。在中国语境中，责任有一种概念是“过错意义上的责任”，“意味着行为主体某种过错导致了不好的后果因而要面临相应的谴责、惩罚、制裁等，即要让行为主体为自身的过错‘付出代价’，这背后连带着一个问责或者说责任追究的过程”。国家治理是复杂繁琐的活动，国家治理现代化是中国式现代化的重要组成部分，国家治理的开展需要针对主体的过错行为进行问责，这能确保行政实践的良性运转。主体面临追责压力时能充分发挥自身主动性能动性进行国家治理。若将算法责任中立原则运用于国家治理当中，当算法治理出现失误对现实造成严重后果时，使用算法进行实践的主体会凭借“算法中立”的理由脱责，算法技术的责任主体模糊也无法对其追责。在不用承担责任的背景下，主体自然更多依赖自动化智能化的算法进行治理。当算法出现错误时，治理主体可能消极被动地等待，等待算法技术的修复和更新，而逐渐丧失自身的能动性。

三、调适算法中立原则，规制算法推动国家治理现代化

现代化是人类文明经历的一场深刻变革，是文明要素优化和升级的过程。国家治理现代化是中国特色现代化的重要战略目标，力求国家治理水平达到世界先进水平，在治理中实现人的解放和事务效率的最大释放，使国家和社会处于动态平衡的善治状态。为实现这一战略目标，以算法为核心的智能技术全面覆盖国家治理领域是必然趋势。算法技术凭借其不可取代的优势为治理制度、治理实践和治理主体赋能，推动了国家治理体系和国家治理能力现代化。算法中立原则在一定程度上掩盖了算法技术非中立性所产生的隐忧，在国家治理实践中秉持算法中立原则，容易导致治理制度存在缺陷、治理实践陷入混乱、治理主体能力弱化的严重后果。要化解算法中立原则在国家治理领域产生的负面影响，必须要调适算法中立原则，从奉行算法中立原则到追求“算法向善原则”。依据“算法向善原则”，从人、法律、技术三个角度构建起算法规制框架，消散算法中立原则在价值、责任、应用三个维度可能对给家治理带来的技术风险，实现算法“向善”的应用理念与国家治理现代化的“善治”本质相契合，力求让算法真正做到全面为治理制度、实践及主体赋能。

(一）人的能动性：对算法治理进行全程把控

算法治理并不代表治理主体的彻底解放，而是对治理主体的能力有了更高的要求。算法治理是人的能动性与算法技术智能性的综合，治理主体一定要明确自身在人技关系中的主导地位，要利用自身认知力和判断力对算法治理实践的各个环节进行严格核查，避免算法输出的非中立决策产生负面影响，在克服算法非中立性弊端的同时也能切实提升自身的治理能力。将算法技术人员纳入算法治理的工作领域，使其在算法治理的过程中实时更新维护和审查调控，最大程度克服算法难以持续中立的弊端。

第一，要明确算法技术仅是治理工具而非治理主体，算法技术的应用需要治理主体的引导。“人与技术的实质是主客体关系，技术不断影响人，而人也在不断锻造技术，但人始终是主体。”治理主体要处理好自身与算法的关系，算法是帮助主体提升治理效率及节约国家治理成本的技术工具，在国家治理中只发挥辅助作用。人要用自身的价值理性来引导算法的工具理性，要始终坚守自身与技术之间的主导地位，不能凭借中立原则依赖性使用算法。要在治理实践中充分发挥自身的主观能动性，促使治理能力不断强化。国家治理实际上是充满人文关怀的实践活动，而算法治理具有明显的刚性特征，治理的客体在算法面前都变成了没有情感的数据。因此，算法并非适用于所有治理活动，需要进一步明确算法规则决策限度，细化技术介入国家治理场域的范围和边界，完善算法应用清单制度。在借助算法的基础上也要对其输出的信息进行调整，治理主体要适时进行引导和把控，使算法赋能下的国家治理仍富有弹性，无论是修订制度还是提出治理决策都能与真实情况相匹配。

第二，算法治理的全过程需要治理主体对其进行监管。治理主体对算法进行监管，本质上是主体提升认知力、判断力的过程，尤其体现在甄别算法输出治理信息的过程中。在制度制定时，不能将算法输出的信息作为唯一依据，甚至算法反馈的实践信息还需要治理主体的核验，以确保其真实性和可行性；治理主体要判断算法是否全面客观地反映了相关领域的治理需求，并且衡量算法提供的治理方案是否符合实际的治理目标。当算法的非中立属性影响决策结果时，治理主体要凭借自身认知力及时作出准确判断，将新的治理问题与自身实践得出的治理经验、算法输出的治理方案三者相互结合，不断提升国家治理实践的效率与质量。

第三，在算法治理中需要技术人员对算法进行及时调控。面对日新月异的治理环境，算法不能持续输出与治理环境相匹配的治理需求与治理方案，因而需要对算法系统持续更新维护。这项工作超出了治理主体的能力范畴，需要将算法相关的技术人员纳入国家治理活动的工作范畴。技术人员对算法的运行进行实时监督和调控，努力扩大数据集范围，保证数据能够及时更新，使算法在一定程度上能持续发挥作用；同时优化算法本身的算力，使其输出的结果及提供的信息能更加精准可靠，使算法创造的新质生产力不断驱动国家治理现代化目标的实现。

（二）法律约束力：阻止算法非中立性影响的释放

在现代社会，法律具有公信力和最高约束力，算法在国家治理中的应用需要法律的规制。人的能动性和法律约束作为监管算法治理的外部力量，旨在消弭算法非中立属性带来的风险，抑制风险在国家治理实践中扩散。围绕算法、数据已出台相关法律，但针对国家治理这些特殊领域，法律对算法弊端的规制还不完善，这可能直接导致算法应用及技术治理的落后。欲阻止算法在国家治理中非中立性影响的释放，首先要对特殊数据信息及敏感数据信息进行法律保护，从数据根源上约束算法歧视倾向；其次，要聚焦于场景应用。针对国家治理领域，要建立相关主体的问责法律，使技术的设计者和治理主体以负责任的态度研发和使用算法，让算法责任中立原则不再是“避风港”，避免因责任主体模糊导致治理实践混乱的现象发生。

第一，加强数据保护，约束算法本身的歧视倾向。《中华人民共和国数据安全法》第七条规定：国家保护个人、组织与数据有关的权益，鼓励数据依法合理有效利用，保障数据依法有序自由流动，促进以数据为关键要素的数字经济发展。“数据监管不仅应当着眼于数据采集和数据流动，还应明确在数据使用中如何做到数据供养之善，以此求得算法伦理之善。”数据监管不仅需要进行个人数据保护，还需要对使用者的行为进行监管。在数据保护的基础上，使用者应对“特殊数据信息”与“一般数据信息”进行分类管理，对数据信息进行筛选，将包含生物识别、特定身份、宗教信仰等在内的特殊性信息排除在数据集之外，同时尽可能减少具有歧视性、不平等性的数据输入进算法，保证算法客观公正地归纳预测。《中华人民共和国数据安全法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》以及相关法律文件都对其规定了数据交易安全的积极管理义务。其中，《中华人民共和国网络安全法》第四十一条明确规定，在收集使用个人数据信息时，应遵循合法、正当、必要的原则，在经个人同意后才能进行使用。针对特殊敏感信息的征集条例，尤其是在国家治理领域，相关法律制度应进一步明确特殊敏感信息的内涵及范围，并对这类信息的出售、购买及使用给予明确的法律规定。通过对特殊数据进行法律保护，以法律之力约束算法本身的歧视倾向。

第二，建立问责机制，约束算法治理中的价值偏向。算法治理出现错误时可能会直接或间接损害部分群体的合法权益，但凭借算法责任中立原则，治理错误导致的后果无人承担。算法治理的失误应由谁负责，是算法技术本身的程序运行失误，还是治理主体自身的判断失误，这需要通过法律制度在不同情况下进行责任区分。若算法治理存在失误是由于治理主体提供错误指令，导致算法输出的治理信息存在偏差，在这种情况下，应对治理主体问责；若是因为算法系统本身存在缺陷及偏见而导致决策在执行中产生问题，就应对设计算法的主体追责。2018年美国通过了《1696法案》，这是美国第一部算法问责法案。美国公共政策理事会指出：“应用算法的机构即使对算法的结果不能作出合理的解释，但是也应该对采用算法作出的决策负责。”科技公司及技术人员都应成为问责对象，应承担起算法本身缺陷导致治理问题的相应责任。问责机制在一定程度上能起到反面推动的作用：一是倒逼算法机构在进行研发时严格遵守法律规范，努力确保算法的独立运行在法律允许的范围之内，并且不断提升算法的准确性；二是治理主体在追责的压力下避免在运用算法治理时出现纰漏，在慎用算法的同时发挥自身能动性与算法治理相互配合，不断提升算法决策的公平性及科学性。

（三）技术伦理观：提升算法性能嵌入治理规范

在算法治理过程中，算法能够根据实践反馈的数据主动学习，在一定程度上实现自我进化。在这种情况下，算法治理中的责任对象就会难以确定，技术设计者与治理工作中的技术监管者是否都应承担一定的责任？特殊情况下责任主体难以锁定，法律约束力失效，人和法律的作用并不能完全化解算法治理的风险。防止算法非中立属性产生影响的根本之路在于突破算法技术的发展瓶颈，设计目的性算法，将价值规范与治理准则植入算法程序等技术性方法，对算法在国家治理中的非客观倾向进行根本规制。“提高算法治理技术水平是针对算法歧视应采取的特殊手段，也是针对算法技术性特征的因应之策。”

第一，提升算法技术性能使其与治理主体的思维同频。算法治理可能出现公平正义问题及人机信任问题的根本原因是算法的性能没有达到一定的水准，算法无法识别治理主体的大脑神经网络，人也无法分析算法的黑箱运作及治理的逻辑。因此，需要持续研发脑机接口技术，一旦脑机接口技术得到突破并在治理领域普及，算法就能获取治理主体的思维模式，理解治理主体的价值判断。或者创新计算模型，使算法技术可以模拟治理主体的认知思维，并借助开放的大数据系统，搜集信息、预测行动后果，通过自定义响应程序去应对治理实践中的道德问题。由此，算法歧视、算法非客观及算法不公正的现象会极大减少甚至消失。

第二，将治理的制度准则与价值规范嵌入算法之中。算法中立原则意示算法技术没有价值观倾向，但算法应用于国家治理及其他领域时其输出的信息却具有明显的价值取向，除了受使用者的影响，算法本身也有价值判断标准。在算法开发设计阶段，需要研发者通过编写代码对其进行伦理建设。早在1950年，美国科普作家阿西莫夫就提出了“机器人三定律”，其中内置了“机器伦理调节器”的构想，以此设定机器人不得危害人类的原则。同样，应用于国家治理的算法技术中应植入包括法律在内的治理制度，使治理制度作为“伦理调节器”规制算法运行。算法治理过程中依据法律及其他相应制度进行判断、反馈及决策，能较大限度避免算法偏见及算法歧视的产生，避免算法治理违背国家治理现代化的本质要求。

第三，根据国家治理的不同领域设计具有针对性的算法。面对国家治理的重大实践，应最大限度地控制算法非中立属性带来的风险。在算法设计阶段，明确算法用于国家治理的实践场景，针对特定的任务和应用对算法模型进行调优；在数据预处理阶段，通过人为筛选，排除可能引入偏见的数据，减少算法在特定治理活动中的歧视倾向，提升算法在特定治理活动中的目标性能。单一的算法无法顾及和覆盖多元的治理实践，因此，为实现国家治理现代化的目标，需要耗费人力物力设计多种特定指向目标的算法应用于不同的实践领域，这将在优化算法治理的同时也推动算法技术本身的进步。

（四）追求算法向善原则：应用理念与治理本质相契合

第一，国家治理体系现代化及国家治理能力现代化本质上是在“人治”与“法治”的基础上向“善治”出发，实现“政通人和”的治理景象。“善治”是公共利益最大化的治理活动和治理过程，是国家治理现代化的理想状态。中国共产党领导的中国式现代化，实现了从以资本为中心到以人民为中心的根本性逻辑转变。治理实践的根本客体是人民，治理主体由人民构成，治理制度需彰显人民性。充分了解人民的治理需求，治理过程向人民公开，治理结果让人民满意。“以人民为中心”是善治遵循的价值理念，也是国家治理发展的重要旨归。随着“算力即国力”成为智能时代的共识，算法技术广泛应用并深度嵌入国家治理实践，推动着国家治理格局和治理秩序产生创新性变革，使国家治理形态出现深度转向。以算法为核心的智能技术逐渐普及，有利于促进国家治理智能化进程，推动国家治理现代化，但并不代表国家治理的实践更加理性化，算法治理的非中立性影响会使治理实践在公平正义的价值理念边缘徘徊。国家治理的智能化转型是必然趋势，应在人类治理艺术与算法治理技术的有机统一之下实现“善治”。

第二，算法在国家治理及其他领域的应用不仅要跨越算法中立原则，还要对算法设计的本质追求进行调适，从“算法中立”转向“算法向善”。智能社会的算法技术具有高度智能化、自动化的特征，渗透进国家和社会的各个领域，原本适用于工业革命、信息革命时期的技术中立原则难以继续沿用。“算法向善”是在正视技术非中立性的基础上，“主张算法技术本身负载价值，是一种比‘技术中立’更高的技术伦理要求，贯穿于算法的事前设计、事中调整和事后追责全流程”。要改变对算法属性的已有认知，并在技术和实践层面作出相应的变革。在技术层面，可以通过代码程序将人本主义治理理念植入算法技术。这意味着在算法的设计和开发过程中，要考虑人民的需求和利益，将人的价值和权益置于算法的核心。同时，应对算法技术提出具备透明度和可解释性的要求，让算法的决策过程和结果能够被理解和解释，提升公众对算法的信任度。在实践层面，人机协同进行治理实践应时刻坚守“以人民为中心”的价值准绳。将算法技术与人类专业知识和智慧结合，共同参与决策和治理过程。制定算法治理的人类监督和审查机制，确保算法的决策符合公共利益和价值观。在双重路径之下实现算法“向善”发展。

第三，算法技术追求“向善”原则，国家治理现代化的理想状态是“善治”，算法应用理念与国家治理现代化的理想状态相契合。这不仅代表着弥补技术弊端的算法能够在国家治理实践中发挥更多的正效应，还意味着算法技术与国家治理实践在价值层面的深度匹配，是算法技术应用于社会实践的最高境界，真正实现算法技术与国家治理深度融合，推动“善治”目标的智能化实现。

结  语

随着算法技术的普及、国家治理现代化的持续推进，算法技术深度嵌入国家治理领域，不但具有技术可能性，而且具有时代必然性。算法中立原则有利于推进算法在国家治理领域的应用与普及，算法的算力很大程度延伸了人力的治理限度，在国家治理的制度、实践及主体层面具有不可替代的优势。而算法中立原则作为应用理念，在价值、责任、应用三个维度存在理论上的欠缺和实践上的失偏，在一定程度上会产生弱化算法赋能国家治理现代化的倾向，可能使国家治理现代化的进程受阻。从算法应用原则的角度去分析可能存在弱化算法赋能倾向的原因，是国家治理现代化建设必须予以关注的重要议题。通过调适技术应用原则来规制算法在国家治理应用中的消极影响。在算法技术性能有待提升的情况下，跨越原本的技术应用理念，针对算法技术的特殊性及国家治理现代化的本质追求，对算法的实践原则进行调适。充分发挥应用原则对算法治理的规制作用，力求避免因算法技术性能欠缺导致国家治理暗含一定程度的技术风险。总之，要将“算法向善原则”作为实践理念，弥补“中立原则”的欠缺。警惕技术乐观主义的同时，重视技术应用理念的重要性，使算法在国家治理的重要领域发挥最大限度的优势，推动国家治理现代化及中国式现代化的进程。

阅读链接

《理论与改革》编辑部

投稿：llgg.cbpt.cnki.net

电话：028-87351101

地址：成都市光华村街43号 中共四川省委党校