算法嵌入政府治理：逻辑、风险与规制

一、算法嵌入政府治理：“技术—权力—规则”的解释框架

算法技术通过数据聚合绘制社会热点动态图谱,明确治理对象的精准诉求,精确化识别公共问题,推动公共问题快速进入政府议程,并通过机器算法推演生成理性、科学的决策模型,助力政府决策。因而,作为技术的算法能够推动政府治理更具理性。第一,信息是治理的基础,算法技术提高了对海量信息进行清洗、筛选、聚类的效率,能够快速精准建立数据间的联结,为公共部门科学决策提供依据。第二,从治理过程而言,算法以规范化代码复刻行政决策的程序,生成辅助公共治理主体决策的科学化决策方案,并根据现实情况自动反馈和调试,利于科学制定治理方案,合理分配治理资源,提升政府治理效能。第三,从治理能力看,算法凭借全天候自动化、即时性的工作能力,能够在一定程度上替代传统上需要大量人工才能完成的琐粹而重复的经济技术分析工作,精简政府机构和工作人员,显著降低治理成本, 提升治理效率。 

随着算法技术与政府治理的联结不断加深,算法逐渐成为一种技术性权力,促进了政府治理行为更具包容性。首先,算法具有多元的信息获取渠道和强大的程序运算能力,能够精准分析治理对象的服务需求和治理环境状况,从源头保证决策依据更具包容性、广泛性,规避传统政府决策因数据信息不足造成的决策失灵问题。其次,算法在广泛抓取社会各领域数据信息时,实际上也在与治理对象进行着潜在互动,通过数据反馈与收集保障社会各主体意志能够被表现和反映,以算法、数据与公共部门进行的对话一定程度上保证了公民平等参与权。再次,在算法服务场景内,基于算法逻辑形成的应用服务能够辐射更广范围的治理对象,使社会各主体能够有机会平等享受更友好、更普惠的公共服务。

数字空间的算法技术在与公共部门加深联结的过程中逐渐形成算法权力,影响着公共部门决策,而算法权力通过持续自主学习搭建形成一套程序规范化的设计体系,通过策略规范反制公共部门行政,规范公权力行使,使政府治理更加公平。第一,算法程序明确、规则透明,在实践中公共权力依照算法程序规定的方向运作,公共权力涉及的事务界限也由预先设定好的算法划定,有利于规范权力主体的行政行为,增强公权力运行的公正透明性。第二,算法规则能够突破时间、地点的 限制对权力主体行使权力的全过程做追踪记录,使公共部门行为真正“有迹可循”,无形之中强化了对公共主体的监督和约束,保障社会资源合理有效配置,强化决策公平性;此外,如若社会主体对政府决策公平性提出质疑,公共部门也能够因循算法逻辑对决策进行解释,强化政府公信力。第三,依赖算法技术的自动反馈和预测机制,公共部门能够及时发掘潜藏的治理风险,并及时做出理性化决策规避风险,从而降低 风险外溢的可能性,保障公共行政效力。第四,算法规则具有包容、透明的属性,有利于多元社会主体在协同治理过程中参与监督和反馈,强化了社会信任机制,密切了社会公众与政府间的联结。

二、算法嵌入政府治理的风险与挑战

一方面,算法逻辑虽遵循机器理性,但算法程序毕竟由人设计,程序设计优劣在很大程度上受制于设计者的知识水平,一旦设计者有所疏漏,算法程序运作将发生不可预测的偏差;另一方面,即使设计者知识水平较高,具备算法设计所必须的技能,但社会环境因素也在不断发生动态变化,很难在设计之初全面预测社会问题可能发生的未来变化,因而即使是经过精准测算的算法模型也难与动态变化的社会问题完全适配,导致算法失误。对错误决策进行追责毋庸置疑,但关键问题在于,当公共部门决策失误是由算法技术导致时,追责的对象到底是算法设计工程师、提供算法程序的私主体,还是相关的公共部门? 当政府治理逐渐依赖算法技术,如何对决策选择后果进行责任界定以及如何对决策选择行为追责问责,将成为亟待解决的现实问题。

一是在现代算法社会,算法核心技术逻辑仍由商业资本掌握,商业公司以巨额资金投入广纳技术人才,强化数据平台建设,将算法核心技术牢牢掌握在手中,并能够以商业秘密为由拒绝技术公开,隐蔽搭建专属的算法技术生态网络,垄断对数据等治理资源的支配能力。二是算法所具备的优越的算力优势和自主预测能力使其在多数服务场景下做出的决策都要优于人脑,在治理环境日趋复杂的今天,公共部门为减少决策失误越来越依赖和信任算法给出的自动化决策结果,这也为逐利的商业资本介入公权力运行场域提供了契机。一旦公权力被私部门俘获,政府权力行使的正当性和合法性将被质疑,政府不得不面对信任危机,社会公共利益也存在被商业利益蚕食的风险。

在理想状态下,作为规则的算法能够对公权力进行约束,将权力关进“代码”的笼子,保障权力公允有序运行,实现政府治理的公平正义。但同样不可忽视的是,虽然依照算法逻辑得出的决策结果能够实现相对公平, 但算法规则本身不具备天生的中立性,隐藏着对社会正义性的挑战:在政府决策过程中,算法实质上充当了“信息守门员”的角色,政府依靠智能算法识别抓取公共问题信息流中的关键要素,基于算法程序绘制公共议题版图,以此辅助政府决定问题解决的优先次序。不仅如此,如果算法设计者想要将某种偏好选择不断进行复制,算法在不断学习优化的过程中也已经具备了成熟的技术手段能够对相关政策法律进行规制,这势必会造成对相应数据主体的歧视和伤害,导致治理正义性的减损。

三、算法嵌入政府治理的实践进路

     第一,政府部门制定完善相关法律法规,明确要求商业资本向社会公开算法设计理念、数据信息来源、数据筛选机制等内容,同时要求提供算法技术的平台对公众提出的质疑进行及时解释和回应,打破“算法黑箱”,保障算法机制公平正义。

     第二,在算法公开的基础上,建立统一的算法监管机制也十分必要。公共部门应当设置专业化监管机构负责动态监管商业资本提供的算法设计准则、算法运作模型、算法价值规范等内容,并且在算法形成的结果运用于公共政策之前,积极利用风险监测等技术手段审查其决策正当性、论证充分性和价值适当性。

     第三,要实现对算法技术的有效约束、把控算法运行逻辑,社会组织的力量也应得到重视。社会组织作为第三方机构,超脱于政府部门和商业资本之外,能够对算法运行全流程进行更客观、更细致的监督,对算法的社会影响进行更多维度的审视,打破算法治理中的信息不对称,协助破除算法“黑箱”。

     第四,在此基础上更重要的是对算法技术背后所涉及各相关权力主体的责任范围做出明确划定,培育治理主体的责任意识,依法向相关商业算法平台开展追责,倒逼私权力主体明确责任承担内容,切实对算法结果负起责任。

     第五,就社会心理层面而言,社会各界要进一步强化对算法的正确认识。一方面,应摈弃对算法的盲目欣赏,理性看待算法推送的决策结果,避免过分信任算法而产生的自动化偏见。另一方面,也不应抱有算法厌恶情绪,而要理性接纳算法,更好地发挥智能技术为政府治理带来的有利影响。

     一是要进一步完善算法权力治理机制,由政府主导建立总体治理框架,明确政府对算法治理的主体责任,从促进算法数据公开透明、算法运作逻辑公正客观、算法作用主体一视同仁等方面建立全流程风险防控机制; 同时,综合运用多元化规制工具,比如算法影响评估、算法审计等,对算法自动化决策的全流程进行二次分析检视,及时识别和纠正自动化决策产生的漏洞,规避算法技术可能为政府治理带来的风险挑战。

     二是从价值理念层面而言,要在算法技术嵌入政府治理的整体性过程中时刻坚持“人类中心主义”的价值准绳,坚持人本主义治理理念。一方面,始终坚持公共管理者在政府治理中的主导地位,不断强化政府治理场域中“人机协同发展”理念，在政府治理中更要发挥技术优势,把机器擅长的交由机器,并适时对其加以约束和规制,以人类价值理性驱动算法技术理性发展。另一方面,在运用算法技术发展政府治理实践中打造“人机协同、线上线下”的服务模式,避免“一刀切”的数字化转型,针对老年人、残疾人等技术弱势群体也要保留人工服务窗口,以满足不同社会群体多元化的公共服务需求,切实增进人民群众的幸福感和获得感。

     一是要明确算法技术应用的相关法律依据,完善政府治理过程中使用大数据、云计算、智能算法等技术的制度和标准体系,明确规定被运用于政府治理的算法技术必须具备清晰的计算逻辑、合理的裁量区间、明确的价值指向以及可预见的决策结果等,以完善的法律法规对技术进行规制。

     二是要划定算法规则决策的权限,明确算法技术在政府治理场域的决策限度。可以依据环境的复杂性和不确定性程度对各项治理事务加以区分:当面临高复杂性、高不确定性的公共问题时,可借助智能算法技术辅助公共决策,此时需要在工作人员的全程监督和参与之下,由机器算法自主地对数据进行收集、归纳并建构相应决策模型,通过精准测算产出政策结果。

     三是要对算法清单进行及时更新和调整,以更好发挥新兴技术手段对政府治理的积极价值。随着智能技术不断更新迭代,智能算法的便捷性、效率性以及安全性都不断得到提升,算法嵌入社会治理也已是大势所趋,当多元化的算法技术模型随着实践发展变得更具理性,算法清单也应随之调整完善,使得更多安全可靠的技术应用方案能够为政府治理赋能,推动公共行政智能化、智慧化发展,同时促进政府、市场和社会协同增效。