算法的法律治理研究
![]()
张恩典：《算法的法律治理研究》，中国政法大学出版社2024年版。
作者简介
![]()
张恩典，法学博士，南昌大学法学院副教授，法治江西建设研究中心副主任，南昌大学立法研究中心研究员，博士生导师，研究方向：行政法学、数字法学。近年来先后在《法学论坛》《行政法学研究》《行政法论丛》《私法》等刊物上发表学术论文30余篇，出版学术专著1部，获江西省社科优秀成果奖1项，多篇论文被《中国社会科学文摘》《人大复印资料》《高等学校文科学术文摘》等刊物转载。主持国家社科基金、司法部项目等省部级以上项目多项。
内容提要
本书讨论了算法决策对行政法治原理的挑战，讨论了行政规制的制度转型与算法行政问责机制的构建。本书围绕算法解释权、算法知情权、算法歧视、算法透明度、算法影响评估制度等算法治理的核心法律机制，进行深入剖析。本书对诸如版权的算法实施、数字接触追踪技术、人脸识别技术等基于人工智能算法的数字技术的法律规制议题展开深入研究。
目录
第一章 人工智能算法决策对行政法治的挑战及制度因应
第一节 行政规制的智能转型，人工智能在行政治理中的兴起
第二节 危机中的行政法治，人工智能算法决策对行政法治原理的挑战
第三节 通过赋权服膺法洽：面向行政规制智能转型的制度建构
本章小结
第二章 大数据时代的算法解释权：背景、逻辑与构造
第一节 算法解释权产生的背景：大数据算法决策的兴起及其引发的问题
第二节 通过增强透明性规制算法权力：算法解释权之控权逻辑评析
第三节 算法解释权的基本构造：两种解释权模式的比较分析
本章小结
第三章 超越算法知情权：算法解释权理论模式的反思与建构
第一节 作为“弱化”版本的算法解释权：算法知情权之规范考察
第二节 算法知情权理论之法理反思
第三节 超越知情权模式：道义论权利论下算法解释权之本土化建构
本章小结
第四章 反算法歧视：理论反思与制度建构
第一节 人工智能时代的算法歧视：类型与特征
第二节 算法决策语境下传统反歧视理论的适用困境
第三节 基于算法决策场景的反歧视理论调适
第四节 反算法歧视之制度建构
本章小结
第五章 算法透明度的理论反思与制度建构
第一节 算法透明度的价值谱系
第二节 基于信息的算法透明度实践之理论反思
第三节 算法透明度之理论更新：迈向基于关系的算法透明度模式
第四节 基于关系的算法透明制度建构
本章小结
第六章 算法影响评估制度的反思与建构
第一节 算法影响评估制度的功能定位
第二节 算法影响评估制度实践的比较考察
第三节 我国算法影响评估制度的建构方案
本章小结
第七章 数字时代版权的算法实施：类型、困境及法律规制
第一节 版权算法实施的类型学考察
第二节 网络版权算法实施面临的现实困境
第三节 版权算法实施的法律规制构造
本章小结
第八章 人脸识别技术公共应用的法律规制研究
第一节 人脸识别技术公共应用对基本权利的侵蚀
第二节 人脸识别技术公共应用法律规制模式之比较考察
第三节 基于人脸识别公共应用场景的协同治理模式建构
本章小结
第九章 数字接触追踪技术的实践类型、社会风险及法律规制
第一节 新冠疫情数字接触追踪技术实践类型之比较考察
第二节 我国数字接触追踪技术应用实践引发的双重风险：以健康码为中心
第三节 疫情防控常态化背景下数字接触追踪技术应用的法治化建构
本章小结
第十章 通过合同实现算法行政问责
第一节 数字政府建设背景下算法行政的问责困境
第二节 算法行政问责合同规制进路的理论意涵与价值分析
第三节 算法行政问责合同规制进路之具体展开
本章小结
参考文献
序一 公法理路下的算法之治
宋华琳
（南开大学法学院教授）
人类正在迈向数字时代，人工智能算法则从根本上重塑着数字时代的隐形秩序。“我们生活在一个算法时代，数学和计算机科学以强大的方式结合在一起，以算法来助推、偏向、引导、激发、控制、操纵和约束人类行为，从而影响、塑造指引我们的行为和和社会的治理。”伴随着人类生活世界的高度数据化和代码化，算法正在成为数字社会中一种新兴的重要治理术，并给现代社会中居于支配地位的法律治理术面临深刻挑战。算法之治与法律之治的关系由此也变得复杂而微妙。一方面，人工智能算法赋能立法、行政和司法等诸法律活动，带来了法律自动化，极大地提升了法律治理的效率，并促使现代普遍性法律向后人类的个性化法律跃迁。在此过程中，伴随着人工智能算法对法律运行过程的深度渗透，代码呈现出取代法律的趋势，代码即法律的观念悄然兴起。另一方面，人工智能算法在深度介入市场、社会和政府治理的过程中，也引发了诸如算法操纵、算法垄断、算法歧视、算法黑箱等一系列问题，亟待从法律层面予以回应，这种回应也在推动着法律理论和制度的深刻变革。由此可见，广义而言，算法治理具有双重意蕴：其一，意谓“通过算法的治理”，将算法作为数字时代一种重要的、乃至基础性的治理工具。其二，意谓“对算法的治理”，将算法作为数字时代一个重要的治理的客体或对象。应该说，伴随着算法对人类生活世界的广泛渗透和介入，算法治理的上述两个维度都应当引起我们的高度关切。作为数字时代的一种新型治式，算法治理具有不同于法律治理的逻辑，“算法治理标志着从基于规范的规训逻辑向控制逻辑的转变，亦即基于算法背后的利益而开启和关闭不同可能性的逻辑。”算法治理严格遵循功利主义的“绩效导向”与现代社会法律治理所倡导的“权利话语”之间抵牾颇深，算法治理对个体所进行的分类与分格，从根本上消解了人的自主性和主体性，危及人的尊严和主体地位。而这也是我们要将人工智能算法技术看似客观中立，但却潜藏偏见歧视的数字杀伤性武器置于法律规制的根本原因。《算法的法律治理研究》一书是张恩典副教授近年来探寻算法的法律治理之道的智识结晶。张恩典老师有着良好的公法学与法理学素养，本书讨论了算法角色对行政法治原理的挑战，讨论了行政规制的制度转型与算法行政问责机制的构建。本书围绕算法解释权、算法知情权、算法歧视、算法透明度、算法影响评估制度等算法治理的核心法律机制，进行深入剖析。本书对诸如版权的算法实施、数字接触追踪技术、人脸识别技术等基于人工智能算法的数字技术的法律规制议题展开深入研究。客观而言，该书在侧重算法的法律治理研究的同时,也为我们呈现了算法治理与法律治理相互交织的生动图景。本书应当是我国公法学界对算法治理研究的有力著述，对于数字时代的算法治理实践颇有指导意义。需要思考的是，“算法”是“法”么，算法在智能立法、智能执法、智慧司法领域分别发挥着怎样的作用，如何看待算法给行政裁量权行使带来的冲击，是否有可能将算法引入行政裁量权基准的形成与实施之中，如何审视算法给行政程序法带来的变化，如何审视算法形成的合作治理，如何审视算法中的竞争与垄断，这些或可构成未来进一步研究的课题，也是阅读张恩典老师著作后的启发。一部佳作的意义不在于穷尽论题的方方面面，而在于推进相关学术研究，阐释学术洞见，启发读者进一步思考。从这一点说，张恩典老师此部著作是成功的。近年来，因研究结缘，与张恩典老师多有学术交流，也见证了张恩典老师在学术上不断进取，推陈出新，探求智慧法治，深耕算法治理。在此，郑重地向法学界同仁推荐此书，也希望张恩典博士在数字行政法领域取得更丰硕的研究成果，并为推动行政法学理论的结构转型做出自己的贡献。
序二 构建算法之法：算法的法治化探索之道
高秦伟
（中山大学法学院教授、博士生导师、法学博士）
当前，算法与人工智能在全球各国各领域渐次推广使用，在其为经济和社会发展带来益处的同时，理论与实务界的担忧在于算法对社会的渗入可能产生诸如算法规训、算法歧视、算法黑箱等且对其决策的作出缺乏有效监督，这些均构成了自动化的不确定性问题。长期以来，科学事实的不确定性给行政决策带来了极大的挑战，行政决策者需要面对不完整的信息来作出决定。技术特别是算法、人工智能的应用可以化解这一挑战，可以提升行政机关处理数据的能力，在数据中提取规律、见解的能力。算法、人工智能解决问题的同时，又滋生了新的问题，如不透明，反而给依赖人工智能系统转出的决策带来了不确定性。也就是说从行政法层面观察，相较于传统的科学不确定性，自动化的不确定性不仅影响事实，而且影响公共行政的决策结构。故而，有研究提出“自动不确定性”的概念，用以分析在人工智能系统的科学不确定性背景下，如何产生决策背景的事实不确定性和人工智能在决策程序中作用的法律不确定性问题。此概念可以回应影响评估的义务，可以构建未来人工智能对行政决策影响的法律研究。亦有研究提出了“负责任算法的原则”做为指导算法运营的核心，包括了责任、可解释性、准确性、可审计性与公平性。类似的探索很多，南昌大学法学院张恩典副教授、博士的《算法的法律治理研究》正是在这一时代背景以及这些反省之下的力作，值得阅读。最近的技术进步导致法律学者就法律与机器人、无人机、自动驾驶汽车以及任何嵌入人工智能的系统的关系展开了激烈的讨论。从本质上讲，这些技术现象多依赖于算法来处理和解释数据，导航人工智能车辆或者其他形体，并控制机器人的运动，这些机器人正变得越来越独立于人类的监督与控制。也就是说，算法已经不再是简单的过滤数据的方法或者其他方式，而是将决策从人类外包给了机器或者软件机器人的方式。在算法学习的情景下，它们是通过利用现有信息来做出决策的，因此，如果训练数据在某种程度上存在缺陷，算法有可能加剧或复制人类偏见。随着我们进一步走向与智能、算法驱动的实体共存的未来，所以，此种反乌托邦的结果是要避免的。法律能够做什么，受到了什么样的影响？个人具有什么样的权利予以维护自身的利益？诸如此类的追问，成为学界与实务界不断需要回应的课题。作为人工智能技术与产业大国，中国近年来在人工智能规制方面取得显著的成就。特别是自2017年《新一代人工智能发展规划》颁布以来，中国形成了初步的法律规范体系。在欧美不断颁行人工智能法的同时，中国学者也提出了相对完整的人工智能立法建议稿。中国作为全球人工智能规制与治理的重要力量，需要在理论上给出答案、提供中国智慧与中国方案，而《算法的法律治理研究》一书正是在广泛借鉴域外经验、结合自身国情和发展阶段持续探索与理论总结的产物，相信本书的出版能够促进中国在人工智能规制与治理理论研究方面作出应有的贡献。算法越来越多地为公众生活的重大决策提供信息，受其影响人只是提供了很少的输入，相关组织对它们的工作原理几乎没有什么解释。故而，算法的结果令人不安、感到不公平、不安全、不可预测和不负责任。《算法的法律治理研究》一书试图使算法的决策者对其结果负责，作者秉持基于权利的个体主义算法治理理念与基于风险的整体主义算法治理的平衡的理念，就数字时代的诸多重点问题展开了深入的剖析，既有从法理层面对算法解释权、算法知情权、反算法歧视、算法透明度、算法影响评估机制的讨论，亦有基于部门法层面对算法决策与行政法治的关系、数字版权的算法实施、人脸识别技术及应用的规制、数字接触追踪技术的规则等审视。这些探索俨然是在为算法制定规范，即使是处于早期阶段、初步发展与探索阶段，但是算法之法（law of algorithms）对目前的技术与社会塑造显然是极为必要的。此外，值得进一步思考的是，对于算法系统自主性的增加，学者们提供了诸多的方案，如一些人尚提出需要在政府内部建立一个算法规制机关，用以规范算法的使用，企业在商业使用算法之前需要向它备案。这是一种类似于上市前审查的行为，但是此举是否仍然系一种旧的方式呢？能否适应新技术的发展呢？是否有着“周虽旧邦，其命维新”的雅境与意涵呢？对此，张恩典博士有着自己的见解，如针对算法影响评估机制的建构，他并未如同其他学者一般偏重于因《个人信息保护法》等相关规定并借鉴域外知识，从程序意义上建构影响评估机制；而是将之类型化为封闭合规型与开放反思型两种，注重实体问题的实现，注意规制方式的变革。当然，此种变革意味着行政机关要对技术设计过程的全面参与，益处在于可以保障规范适用意图的准确性，并能够在充分理解其规范适用意图的算法代码中实现价值嵌入，但这种“理解”既要体现行政机关的全程参与、组织协调、行为保障，也需要具有一定的限度，不能以行政权干扰技术设计的合理运行。为此，算法之法仍然需要不断探索，道阻且长，希望行则将至，行而不辍，未来可期！《算法的法律治理研究》一书是张恩典博士有关算法法律治理的集大成之作。从内容来看，本书理论具有前瞻性，实践具有指导性；从比较法以及中国法的维度深入探讨了人工智能与算法的法律治理问题，展现了作者良好的学术训练与研究视野。随着越来越多的技术融入到人类社会，本书作者的这些思考，将为我们想像创造一个什么样的未来社会，法律在创造一个公平和公正的社会发挥什么作用提供启迪。本书的出版不仅使我们能够系统地理解算法法律治理的体系与框架，理可以帮助我们在立法、规制过程中避免审慎不足的谬误，实现规范制定更加面向未来且经得起未来的考验。为此，我郑重地向广大读者推荐此书，更希望作者在今后能够为我们带来更多、更精彩的观点。
