上政学报 | 黄秀蓉赵梓羽：数字赋能与风险规制之衡平：当环境治理遇见通用人工智能

文摘 2024-09-23 19:31 上海

点击蓝字

关注我们

新兴权利法律问题研究

数字赋能与风险规制之衡平：当环境治理遇见通用人工智能

本文刊登于《上海政法学院学报》2024年第5期

摘要

通用人工智能赋能环境治理是应对环境问题的新途径和新趋势。通用人工智能在智能分析与推理、自主学习与泛化、文本生成与知识更新、信息交互与渗透等方面实现了重大的技术跃迁，能够切实提高环境决策、环境执法以及环境司法的效益，促进环境治理协同。但这一过程也会引发新型治理风险，包括虚假信息生成、技术权力越权、算法偏见以及环境数据泄露等，可能导致环境决策错误、挑战传统环境规制权力、引发环境非正义，甚至威胁生态安全。基于此，既要从宏观层面明确通用人工智能赋能环境治理风险的法律规制向度，树立包容审慎的治理态度，坚持通用人工智能的辅助性地位，并融合敏捷治理范式；也要从微观层面构建风险因应的法律制度，从加强训练数据的内容生态规范化建设、构建公私合作的规制模式、推进发展可解释算法以及构建灵活高效的环境数据安全管理体系等方面健全通用人工智能赋能环境治理的法律规制体系。

关键词

通用人工智能；环境治理；数字赋能；法律风险；法律规制

作者

黄秀蓉，浙大城市学院法学院副教授；赵梓羽，浙江大学光华法学院博士研究生。

引用格式

黄秀蓉、赵梓羽：《数字赋能与风险规制之衡平：当环境治理遇见通用人工智能》，《上海政法学院学报》(法治论丛)2024年第5期。

目次

一、通用人工智能何以赋能环境治理：基于技术跃迁的功能分析

（一）智能分析与推理能力跃迁驱动环境决策优化

（二）自主学习与泛化能力跃迁提升环境执法效能

（三）文本生成与知识更新能力跃迁增进环境司法水平

（四）信息交互和渗透能力跃迁促进环境治理协同

二、通用人工智能赋能环境治理中的法律风险

（一）虚假信息生成导致环境决策错误

（二）技术权力挑战环境规制权力

（三）算法黑箱引发环境非正义

（四）环境数据泄露威胁生态安全

三、通用人工智能赋能环境治理风险规制的总体框架

（一）在总体上坚持包容审慎的规制态度

（二）明确通用人工智能在环境治理中的辅助性地位

（三）采取敏捷治理的风险规制范式

四、通用人工智能赋能环境治理风险规制的具体举措

（一）加强环境训练数据的内容生态规范化建设

（二）构建公私合作的规制模式

（三）以可解释算法破解算法黑箱

（四）构建灵活高效的环境数据安全管理体系

五、结语

当前我国正处于生态文明建设的关键期、攻坚期和窗口期，尽管经过大规模治理，生态环境已得到了初步改善，但仍然面临诸多问题，亟须更深入、全面地治理。恰逢数字技术和人工智能蓬勃发展，国家层面正积极利用这一战略机遇推动环境治理现代化，为生态文明建设拓展新的发展空间。2016年《生态环境大数据建设总体方案》为生态环境数据的发展制定了顶层蓝图，突出了数据驱动决策的战略意义，标志着环境治理领域正式迈向数字化和智能化转型的关键时期；2018年《2018—2020年生态环境信息化建设方案》则强调了大数据、“互联网+”、人工智能等信息技术在现代生态环境治理体系和能力升级中的关键作用。随着《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》（以下简称“十四五”规划）的发布，新的目标将以数据赋能、协同治理、智慧决策和优质服务为特征，进一步推动融合治理。而当前炙手可热的通用人工智能技术（General Purpose AI, GPAI）正为此提供了契机，深刻地塑造着环境治理智能化发展的未来。

2022年11月，由OpenAI推出的大规模生成式预训练语言模型ChatGPT凭借其卓越的泛化和生成能力，在执行语音识别、自然语言处理、视觉识别等多种任务中彰显出独特优势，拉开了通用人工智能时代的序幕。在极短时间内，从模拟人类大脑思维能力的语言模型到图文生成模型，再到“操控身体”的具身模型，通用人工智能技术迅速发展，在教育、新闻、数字政府及数字乡村建设等各个领域产生了深远的影响，以颠覆性的力量引领我们迈向了“人机共生”时代的无限可能。在环境治理领域，其作用同样不可估量。通用人工智能在智能分析与推理、自主学习与泛化、文本生成与知识更新、信息交互与渗透等方面的技术跃迁，能够为环境决策、监管、执行、司法提供强大助力，赋予环境治理更大的韧性和效能，从而更有力地应对日益严峻的环境挑战。

然而，任何一项新兴技术都是一柄充满创新与悖理的“双刃剑”，通用人工智能技术虽然表现惊艳，随之而来的法律风险与挑战同样令人担忧。智能模型生成错误信息、数据泄露以及潜在的算法歧视等问题逐渐被揭露，引发了社会的广泛质疑。在环境治理领域，这些风险一旦转化为现实，可能导致严重的环境决策错误和重要环境数据泄露，从而限制环境治理的效能，并潜在地危及生态文明建设和可持续发展。与此同时，通用人工智能所催生的技术权力将对现有的环境规制权力构成挑战，其潜在的算法歧视问题甚至可能演变为对环境的非正义对待，这些问题将破坏现有环境治理秩序，引发环境治理体系内部的权力失衡和公平性破坏。基于上述背景，追寻何种行动路径，化解通用人工智能赋能环境治理带来的法律风险并将其用于提升环境治理的水平，已成为当前亟须关注和应对的重要议题。对此开展研究，是满足人民日益增长的对良好生态环境的需求，更是推动美丽中国建设以及为全球环境治理贡献中国智慧的需要。

一、通用人工智能何以赋能环境治理：基于技术跃迁的功能分析

通用人工智能代表了新一类人工智能模型及其功能的合集，其以基础模型为核心技术，通过海量数据、优化算法以及强大计算资源的大规模训练获得底层通用能力，能够模拟人类智能，在多个领域进行推理、学习、适应和执行任务。在环境治理领域，尤其是环境决策、环境执法以及环境司法等场景中，通用人工智能的多方面能力跃迁开启了全新的环境治理模式，显著提升了环境治理的水平和成效。

（一）智能分析与推理能力跃迁驱动环境决策优化

在环境决策中，全面的数据分析、精准的预测和对环境变化趋势的深刻理解至关重要。然而，环境问题具有明显的时空特性，涉及长期监测和跨区域的数据整合，加之环境数据种类繁多且复杂，涵盖生物监测数据、污染源数据、气象数据、地质数据、环境事故数据以及卫星影像数据等多种类型，给实现全面、有效、精准的环境问题分析与预测带来了巨大挑战。传统人工智能在环境数据收集上存在着碎片化的困境，在理解和处理复杂的自然语言方面也面临着技术困难，导致其分析和推理能力受限，难以满足及时、准确地识别潜在环境风险和发现新的可持续发展途径的需求。而通用人工智能在智能分析和推理能力上实现了重大的技术跃迁，展现出更显著的先进性和普适性，从而在根本上影响着环境决策。

具体而言，一方面，通用人工智能的海量语料库数据有助于克服环境数据复杂性所带来的分析难题。以ChatGPT为例，其训练于一个包含3000亿个单词的语料库中，该语料库融合了多元的环境数据，涵盖环境监测报告、卫星影像数据以及社会媒体舆情等多种类型。这些环境数据的数量和多样性远超传统人工智能所能获取和整合的范围，因而基于这些数据进行分析和推理，能够更全面和科学地认知环境现状及复杂的关联关系。另一方面，基础模型的不断迭代升级有助于克服环境问题时空性特征所带来的技术挑战。2017年，Google的Transformer模型率先采用了自注意力机制处理序列数据，这一机制使人工智能模型在理解长距离依赖关系方面取得了质的飞跃，赋予了通用人工智能一定的逻辑推理能力。2020至2023年间，OpenAI不断推陈出新，最新的GPT-4模型融合了多个层级的深度神经网络，能够逐层学习并理解数据的多层次抽象特征，实现对复杂信息的处理和推断。随着基础模型的不断迭代升级，通用人工智能的规模和性能得到显著提升，能够识别和理解环境数据中的时空特性，从而提供更为准确的趋势预测和风险评估，为智能分析和推理带来了重大突破。

正是得益于这种智能分析和推理能力的跃迁，通用人工智能能够快速洞察环境变化和趋势，实现对环境问题多维、深度的认知转变。这为决策者提供了更为全面和长远的视角，使其能够制定更具针对性和远见的环境治理政策以应对未来可能出现的环境挑战。

（二）自主学习与泛化能力跃迁提升环境执法效能

在风险社会的背景下，环境风险愈发多样且变化频繁，使得环境执法面临着前所未有的复杂性和科学性挑战。执法者不仅仅依赖于生态学、地质学和化学等多学科知识的综合运用，亦需处理跨境和跨部门的复杂问题，还需深入理解环境问题的延迟性和长期性特征，如排放污染物引发的环境影响可能在数年甚至数十年后才显现出来。然而，传统人工智能缺乏足够的机器学习或自主学习能力，在任务执行上存在着应用领域单一、输出特定和缺乏灵活性等问题，也就无法对复杂多变的环境问题作出及时反应和灵活应对，实现真正意义上的智能执法。相比之下，通用人工智能通过广泛的数据训练和应用深度学习、强化学习以及元学习等技术具备自主学习和泛化的能力，其创作能力类似甚至超越人类，为此提供了显著的补充和改进。自主学习和泛化能力的跃迁使模型具有足够的灵活性，即使在面对未知环境时，模型也能够通过自我学习和探索，掌握潜在模式和规律，适应各种执法任务和环境变化。例如，智能系统可以通过对水下声学数据和卫星遥感图像的自主学习，自动识别和跟踪海洋垃圾，帮助相关部门有效清理和管理海洋生态系统。这种技术革新不仅提高了执法效率，有效应对了长期以来棘手的海洋环境污染问题，还大大降低了环境监管的成本和人力资源投入。此外，自主学习能力使得通用人工智能能够快速适应新出现的环境污染物，例如，微塑料和有机化合物的监测和分析。可见，基于这种技术基础，通用人工智能能够应对快速变化的生态大环境下包括污染治理、气候变化、水资源管理、垃圾分类等不同场景的复杂任务，为环境执法带来更强的应对能力。此外，基于自主学习和泛化能力构建的环境执法系统的优势不仅是对突发环境事件的快速应对，更重要的是对环境执法工作的长远影响。通过利用通用人工智能技术，系统可以在不断的数据学习中获取新的见解，逐步形成对环境问题的更深层次理解和解决方案的积累，这种智能化发展将有助于促进环境执法与保护工作的可持续性。

（三）文本生成与知识更新能力跃迁增进环境司法水平

随着人工智能技术的不断进步，自然语言处理、数据挖掘和智能推荐等技术已被广泛应用于诉讼服务、类案检索和案件审判等司法场景，切实提升了环境司法的运行效率和质量。但传统人工智能也逐渐显现出一些局限性，如过度依赖标注数据、知识更新不足以及缺乏司法逻辑推理能力等，这些问题制约了传统人工智能在环境司法领域的真正大规模应用。相比之下，通用人工智能在文本生成和知识更新能力方面的显著技术跃迁弥补了传统人工智能模型的不足，有望以更智能的方式增进环境智慧司法水平。

一方面，环境司法案件通常涉及广泛的公共利益和生态保护，而不仅仅是个体之间的争议，人工智能在环境司法中的应用要实现正确的价值判断和价值衡平，需要确保其裁判不仅公正，而且有利于环境和社会的整体福祉。传统人工智能受制于预定义规则和预先输入的标注数据，欠缺司法逻辑推理能力，难以支持裁判文书的事实认定和释法说理等核心内容。这种局限使其在环境司法中难以有效权衡涉及的利益，从而导致其智能裁判缺乏深度和社会效应。通用人工智能模型则利用无监督式学习，通过处理大量未标注的数据来学习语言和逻辑的隐含模式，摆脱了对特定标注数据的依赖，能够通过在海量文本数据上的预训练不断积累对语言和逻辑结构的深层理解。这一进步显著提高了裁判文书的质量，增强了各利益相关方的信任，使得其裁判过程被广泛接受和认可。

另一方面，传统人工智能受限于已有的案例库和固定的搜索模式，难以实现类案的高效匹配和个案的特定化处理，而通用人工智能不断更新的语料库涵盖广泛综合的环境信息，充当了环境司法人员的重要辅助，为其提供了全面、多维度的信息检索平台。在这个检索平台之上，仅需依托案情细节、法律条文或相关事实等信息，便能够迅速匹配类似案例，以提供高效准确的参考。

（四）信息交互和渗透能力跃迁促进环境治理协同

主流治理理论认为“多元主体的良性互动”是实现善治的关键，国际社会也普遍视协作机制为实现治理现代化的有效路径。然而，在长期以来治理主体信息能力高度不对等、信息供给不足、信息流通不畅的背景下，我国形成了行政主导的环境治理格局，企业和公众难以参与决策和协商，难以形成协同共治的合作局面。而通用人工智能作为一种新兴力量，以其强大的信息交互和信息渗透能力改变了社会架构和资源关系，促进了治理机制转变，推动着环境治理中多元互动关系的发展。在通用人工智能构建的环境信息平台上，各方主体通过自然语言交互能够无差别地获取环境数据信息，与此同时，也通过“提示词”不断引导大语言模型进行微调，形成共生能动性的交流关系。这不仅创造了更多资源共享的实现可能，激发了企业与公众参与环境治理的积极性，同时还能够在一定程度上打破当前存在的环境信息孤岛局面，促进生态环境跨部门、跨地区之间的协同治理。正如由公众环境研究中心推出的“蔚蓝地图”手机App，该App实时提供环境信息并接收污染举报，为公众提供了一个结合大数据收集和监督的环境信息交互平台。通用人工智能技术的应用将以类似甚至更便捷的方式促进不同环境治理主体间更密切的互动，使各治理主体更深度地融入环境领域。在此过程中，传统科层式治理结构将逐渐向开放的网格化模式转变，“命令-服从”式的关系将被平等的沟通合作关系所取代，环境治理走向多元协同。

总的来说，通用人工智能技术在环境治理领域的运用，其实质就是以智能化方式重塑环境治理模式的过程，是对环境治理思维和方式的重大变革，为环境治理开辟了智慧化的新路径。

二、通用人工智能赋能环境治理中的法律风险

作为环境治理的一种内生变量，通用人工智能的技术能力跃迁重塑着环境治理模式，也必然引发新的挑战。这些挑战包括虚假信息生成、算法黑箱和环境数据泄露等由其固有缺陷所致的内部风险，以及因技术与现有法律制度不适配所引发的外部风险，如技术权力挑战环境规制权力。上述风险可能限制着环境治理的效能，甚至冲击现有环境治理秩序、对现有环境治理内在体系造成潜在破坏性影响。

（一）虚假信息生成导致环境决策错误

通用人工智能的智能分析和推理能力拓展了对环境问题的多维认知，推动了环境决策优化，但也引发了虚假信息生成的风险，给环境决策带来新的挑战。近期，欧洲议会对《人工智能法案》框架作出了调整，将“缺乏真实性”列为生成式人工智能系统的主要风险之一。与此同时，我国首个AIGC监管文件《生成式人工智能服务管理暂行办法》也在第4条中明确规定“不得生成虚假有害信息，不得侵害他人名誉权、荣誉权等”，凸显了通用人工智能对网络虚假信息监管的内在威胁。通用人工智能生成虚假信息的风险缘由是多方面的，可结合其技术机理进行解释。首先，通用人工智能模型的运行依赖于海量训练数据的喂养，训练数据本身的质量和时效性直接影响着生成内容的可信度。在ChatGPT3000亿个单词的语料库中，来自网络文本语料库C4的训练数据高达60%，来自其他各种网页文本的数据也占据了12%。对于如此庞大且来源复杂的网络训练数据集，即便如OpenAI所称已经采取了内容过滤机制，也难以确保所有数据的真实、客观和合法性，一旦存在数据不实、偏颇或非法等问题，模型在内容输出时便极有可能延续这些偏差。其次，通用人工智能模型基于训练时学习到的话语出现频次的概率分布来生成文本内容，本质上是对大量数据模式和规律的学习再现。这种生成方式虽然可以在形式上保持文本的自然和连贯，但实际上存在缺乏事实依据和逻辑支持的问题，对于内容本身的真实性和准确性，通用人工智能无法保证，也无法进行完全判断。

可见，在通用人工智能赋能环境治理的过程中，生成虚假错误信息的风险几乎是不可避免的。尤其随着当前环境风险呈现复杂化的态势，内外部挑战长期潜伏、普遍弥散，虚假信息生成的风险无疑将加剧这一格局，带来难以预料的严重后果。据报道，一名比利时男子与名为Eliza的人工智能助手针对气候变化问题进行了长达6周的对话后自杀，该男子的遗孀称，在回应该男子对生态环境的焦虑时，Eliza建议他为了减轻地球的负担而牺牲自己。如此荒谬的虚假错误信息轻易便可威胁个人生命，不禁令人唏嘘。据研究表明，社交机器人通过对信息扩散结构进行数字建模，在推送相关信息时其影响力甚至是人类的2.5倍。这就意味着一旦在环境领域产生并传播错误信息，其能够在短时间内影响并扭曲大量公众对环境问题的认知和行为决策。当决策者基于通用人工智能生成的不准确或不真实的信息作出环境决策时，错误信息会导致环境措施偏离真正需要解决的问题，甚至可能带来资源浪费、公众不信任，甚至恶化环境等不利后果。如2019年澳大利亚的森林大火，由于模型未能准确捕捉到极端天气的变化，导致大火预警和应对措施不及时，最终造成了巨大的生态和经济损失。

（二）技术权力挑战环境规制权力

通用人工智能模型在自主学习和泛化方面的技术进步使得更多复杂的环境问题能够得到及时解决，从而显著提升了环境执法的效能。然而，这一进程也引发了技术权力的崛起，造成了一种“技术赋权”的局面，给传统环境治理中的规制权力带来了前所未有的挑战。

传统环境规制权力通常由环境行政主管部门或相关监管机构行使，通过“命令与执行”的规制方式执行环境风险防控与环境污染防治等任务，其权威性和强制力基于法律规范，能对个人和组织的不当行为施加约束。然而，通用人工智能介入后，数据驱动的决策模型和智能算法将贯穿整个环境治理流程，通过数据分析、智能预测、自动识别和智能执行等途径影响着环境执法。例如，智能系统能够预先设定算法程序，在监测到高污染车辆时限制其通行并自动生成违规报告和实施电子罚款。另一个典型的应用实例是“环保码”的引入和推广，环保码通过对企业的环保行为进行数据化管理和评分，以此激励和约束相关行为。当企业的环保表现不达标，系统会自动生成警告通知，对其赋红码并进行动态监管。这意味着通用人工智能和算法决策等技术具备了自主判断、自主决策甚至惩戒的能力，形成一定的技术强制力，能够对企业、环境监管者和公众等多方施加影响。这种强制力必然挑战传统科层式环境治理模式，对环境规制主体享有的环境规制权力构成极大冲击。可以预见，随着通用人工智能技术的广泛应用，环境规制的主导权将逐渐从传统的环境行政主管部门或监管机构转移到掌握通用人工智能技术和数据的私人机构手中。

不仅如此，基于通用人工智能的智能执法系统在做出环境行政处罚决定时，涉及当事人的陈述申辩等程序性事项变得异常困难，当事人的陈述和申辩环节甚至被省略，导致当事人无法充分表达和维护自己的权益。即便是处罚决定的事实、理由以及法律依据往往也呈现出过于简单机械和说理薄弱的状态。这样的决定不仅在法律依据上显得薄弱，还容易引发企业的不满和抵触情绪，削弱环境执法的威慑力和公信力，这种“智能”趋势将导致环境执法程序的简化或缺失，与传统的正当程序原则相悖。在这一背景下，尽管环境执法效率得到了提升，但实体和程序性正义均面临破坏，由此导致的潜在的环境资源浪费和环境破坏等问题可能更为严重。

（三）算法黑箱引发环境非正义

通用人工智能在文本生成和知识更新方面的技术跃迁极大地提高了类案检索和裁判文书生成等任务执行的灵活性和全面性，显著增进了环境司法效率。然而，以大算力为基础的通用人工智能天然地存在算法不透明问题。其复杂的神经网络结构、非线性和高度抽象的特征学习、模型参数量大且分布广泛等特征导致其内部运作机制难以被理解，形成了算法黑箱。这种黑箱极有可能被利用,当其介入环境司法和其他的环境治理场景时，将导致破坏性更强、隐蔽性更高的环境治理危机。

技术不可能永远停留在现象层面，其行为射程和效用状态必然是服务于技术提供者和使用者的特定利益需求的。通用人工智能也不例外。实践中，通用人工智能嵌入环境治理时，那些表面上由技术代码进行的数据处理、分析以及环境决策实际上反映的是技术设计者或掌控者的意志与价值选择。技术设计者或掌控者可能会受到自身偏见或特定利益的影响，有意或无意地将误导性的反馈编入算法程序，试图操纵模型的学习方向或输出结果。这将最终导致环境治理过程中的偏见或不公平产生，例如，对特定区域内的污染企业排放量指标进行区别对待，或选择性地忽略某些排放源，甚至操纵环境辅助执法系统逃避处罚，从而导致不公正的执法，损害其他地区或者特定企业的利益。更为严重的是，如果存在黑箱的算法介入司法评判过程，很容易导致不公正的司法裁决，引发环境非正义。与传统裁决需要经过充分说理论证并供公众审阅不同，基于通用人工智能的自动化裁决系统通常只呈现一个结果或数字，无法全面展示决策的分析过程。这种不透明性将妨碍非正义纠正机制的实现，扩大环境非正义后果。

（四）环境数据泄露威胁生态安全

通用人工智能在信息交互与渗透能力方面的技术跃迁，在一定程度上打破了当前环境领域数据信息割据的局面，推动了环境治理的协同。然而，随着信息交互与渗透能力的增强，环境数据安全风险也呈现愈发显著的趋势。意大利个人数据保护局曾因OpenAI在数据保护方面存在疏漏，紧急暂停了生成式人工智能的运行服务。此外，各国隐私专员办公室也因此陆续展开了对OpenAI数据安全和个人信息处理的调查。近期有关三星公司因误用和滥用ChatGPT导致“设备信息泄露”和“会议内容泄露”事件的报道，更加凸显了通用人工智能语料库数据泄露风险的严峻性。类似的案例不胜枚举。究其缘由，可发现存在内部和外部两方面泄露原因。内部原因主要为交互数据用于模型迭代造成泄露，即用户与模型互动时所提供的涉及环境的数据信息被模型学习并用于迭代更新，而新模型在与用户的交互过程中可能泄露这些环境数据。外部原因则指模型数据安全防御能力不足导致泄露。研究表明，大型模型能够容纳更多的训练数据，但随着模型规模的扩大，脆弱性却愈发凸显。通用人工智能普遍采用大型模型作为基础，的确具有出色的任务执行能力，倘若这些大型模型遭受攻击，其攻击抵御能力不足会成为严重的数据安全隐患。

在通用人工智能赋能环境治理的场景下，环境数据泄露风险不仅牵涉个人数据隐私和企业商业机密，还关乎更高层次的生态安全和可持续发展利益，值得高度重视。特殊生态系统的地理位置、物种信息、气候数据、资源能源数据等数据信息具有较高的敏感性，与生态安全密切相关，这些数据一旦泄露并用于非法数据交易、地理信息破坏、资源能源滥用等不法行为，将对环境和生态系统产生长期的负面影响。以特殊生态系统的地理位置和物种信息为例，此类数据信息是保护自然环境和生物多样性的基础，泄露这些数据可能暴露生态系统的脆弱性，使其更容易受到破坏，进而影响生态系统的稳定性。再者，在我国推进“碳中和”目标政策导向下，能源数据不仅是政策制定的重要依据，还指引着能源供需偏好和激励创新体系的建设，这些数据的泄露无疑将影响“碳中和”目标的实现，成为生态文明建设的巨大阻碍。

三、通用人工智能赋能环境治理风险规制的总体框架

通用人工智能技术带来的风险将成为未来环境治理的制约因素，构建了一种“决策、执法、裁判于未知之中”的不确定状态，对环境治理带来了新的挑战。寻求对这些风险进行规制的法律途径，以促进通用人工智能技术与环境治理的协同发展，应成为未来环境治理的重要目标。为此，首要任务是在整体上确立通用人工智能赋能环境治理风险规制的总体框架。

（一）在总体上坚持包容审慎的规制态度

通用人工智能在智能分析与推理、自主学习与泛化、文本生成与知识更新、信息交互与渗透等方面的技术跃迁突破了传统人工智能技术的局限，推动了环境治理范式的升级和转型，为环境治理带来了新的机遇。一方面，环境法与科技相伴而生、密不可分，环境法要实现对环境保护社会关系的有效调整必须与环境科学技术紧密结合。传统的环境损害认定和因果关系认定等复杂问题，依赖于人工智能技术的进步才能得到有效解决在数字生态文明转型的背景下，过度抑制通用人工智能的应用将限制其潜力，不利于环境治理目标的实现。另一方面，尽管处于发展初期的通用人工智能尚且存在一定技术风险，但人工智能应用风险本身就具有共生性、时代性和全球性，而人类对新技术的理解是渐进的，不能仅因风险的存在就否定技术进步的价值，并且风险到损害中间横亘着或然性，风险未必会导致损害。因此，从收益和风险的权衡角度来看，通用人工智能仍应被视为一种有益的技术创新，在生态文明建设中期待其发挥重要作用。法律则应以包容审慎的态度对待这种技术创新，对于危害性尚不明显的情况，不必过早、过多地介入规制，而是应采取“让子弹再飞一会儿”的态度。《生成式人工智能服务管理暂行办法》第3条已经体现了这种趋势。进一步从该办法制定过程的内容变化中也可体现。原《生成式人工智能服务管理办法（征求意见稿）》第4条规定“利用生成式人工智能生成的内容应该真实准确”，而在正式公布的《生成式人工智能服务管理暂行办法》中，技术服务提供者的信息准确义务已经被修改为“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。可见，该条款已经从严格要求内容真实、准确转变为一种鼓励和提倡的规定，更具合理性，也体现了对通用人工智能包容审慎态度的转向。在环境领域亦是如此，《数字中国建设整体布局规划》明确指出要“加快构建智慧高效的生态环境信息化体系，运用数字技术推动山水林田湖草沙一体化保护和系统治理”，意在充分发挥人工智能在环境治理领域的作用。

在包容审慎的基本规制理念下，《生成式人工智能服务管理暂行办法》在技术服务提供者责任承担方面需要更进一步的完善，以确保条文规定与规制理念更加贴合。目前，该办法第9条规定，技术服务提供者需承担网络信息内容生产者责任并履行网络信息安全义务。但考虑到大模型生成内容技术原理的复杂性、模型结构与参数设置的复杂关联，技术服务提供者客观上难以完全控制什么内容会被生成，这使得第9条对技术服务提供者责任的设定显得过于苛刻。为了对此进行平衡，可以引入“避风港”规则，合理划定技术服务提供者的责任承担范围，明确免责事由。如果技术服务提供者能够证明在履行相关注意义务方面尽到了应尽的责任，例如，在模型开发和运行的各个阶段都采取了必要的输出拦截和过滤措施，那么就无须为由不当内容生成和传播所导致的后果负责。

需要注意的是，通用人工智能的发展必须在法治框架下进行，其在环境治理中的应用赋能绝不能以技术滥用为代价，更不能以此为名损害个人、组织的合法权益，甚至国家安全利益。对于通用人工智能赋能环境治理应用中的法律风险，在充分包容的前提下，也须审慎对待。《生成式人工智能服务管理暂行办法》第3款已经提出了分类分级监管，可以据此区分高风险应用场景与一般交互场景，实现对风险的更精准管控。对于智慧环境立法和智慧环境司法这两类对个人权益或社会公共利益有重大影响的应用场景，可划入更高风险等级，并实施更为严格的安全监管措施。这种分类分级保护理念旨在针对不同风险进行差异化管理，能够在为技术创新和发展提供支持的同时确保合法权益得到充分保障。

（二）明确通用人工智能在环境治理中的辅助性地位

在环境治理领域，通用人工智能的应用不仅能够影响环境决策、执法和司法实践等环境治理过程，甚至在某种程度上动摇了传统环境规制主体的权力地位，引发了对技术过度依赖的问题。随着人工智能技术的广泛应用，可以预见，环境治理过程将越来越趋向于纯粹的数据化和形式化治理，人类在环境治理中的主观能动性将被减弱，最终与推动环境治理现代化改革的初衷相悖。然而，无论是从历史还是现实的维度，技术都是人类活动的产物，其根本价值限于赋能增权。通用人工智能在环境治理中的应用，也旨在服务于环境治理，推动人类社会可持续发展，而不是取代治理主体的角色，将技术权力置于环境治理的主导地位。此外，尽管通用人工智能已具有相当程度的先进性，其技术本身依然存在较多局限。以环境司法为例，环境司法的公正、平等、自由等理念决定了裁判是一个融合事实与价值判断的过程，而通用人工智能难以像裁判者那样作出全面判断，也无法灵活运用自由裁量权的能力对案件中的特殊因素进行适当考量。为了防止这种技术局限影响到个案正义的实现，有必要对通用人工智能在环境治理中的地位和作用进行限制。

为此，在通用人工智能赋能环境治理的现代化发展进程中，需要始终坚持通用人工智能的工具性地位，明确技术赋权应该是服务于环境治理目标的手段之一，而非主导环境治理的唯一途径。尤其是在涉及价值判断的司法裁判领域，通用人工智能更应被视为辅助性的工具。《最高人民法院关于规范和加强人工智能司法应用的意见》已明确规定“坚持对审判工作的辅助性定位和用户自主决策权”。对此，通用人工智能在环境司法中的角色可被理解为为法官提供案件信息、法律解释、相关先例数据等，其应用范围应当初步限定于类案检索、证据评估与证据链构建、环境损害评估、法规匹配等程序性方面，而最终的庭审裁判权仍应该掌握在法官手中。在明确通用人工智能辅助性地位的前提下，确定技术边界和责任则成为风险规制的重要内容。首先，应当明确通用人工智能在环境治理中可以发挥作用的特定范围和条件，确保决策的透明性和责任分配，防止技术在无人监督或无责任的情况下产生不良影响。其次，还应当确保决策者和监管者的主导地位。决策者和监管者应当始终处于环境治理决策链的核心，而通用人工智能技术仅作为工具和辅助手段受到监管和透明的约束，防止技术自行决策或对决策者的绕过。

（三）采取敏捷治理的风险规制范式

在通用人工智能的风险规制范式演进中，全球经历了三种不同的阶段，分别是回应型治理、集中式治理和敏捷式治理。早期的回应型治理范式主要采取事后风险回应的方式，总体上呈现出风险应对不集中、不及时、措施相对薄弱等局限，在这一背景下，我国先后颁布了一系列涉及人工智能和数据安全的法律法规，如《中华人民共和国数据安全法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》等，这些法律规范强调权力集中和等级划分、前瞻性防范及行业整体监管，推动着人工智能风险规制走向集中。然而，随着通用人工智能技术应用从个性化发展向普适化的环境治理等场景转变，安全威胁和攻击手段不断演进和变化，各种不可预知风险频发，风险的不确定性由外部向内部延伸。此时，集中型治理范式显得有些僵化和不适应，亟待新的风险规制范式出现。敏捷治理范式作为一种能够快速适应情景变化的动态治理模式，展现出以下核心特质和优势，契合通用人工智能在环境治理中的应用需求，能够持续有效管理和应对复杂问题。首先，敏捷治理范式具有高度适应性，注重在面对风险时的迅速应对能力。环境治理领域涉及广泛，环境监测、环境决策、执法等应用过程充满了不确定性，安全风险在这一领域呈现出复杂、多元且具有突发性的特点。敏捷治理范式针对新兴技术挑战，具备灵活应变的能力，其强调通过“主动学习”来增强风险防控能力，能够有效地弥合数字社会快速变迁与环境规制监管滞后之间的矛盾。其次，敏捷治理具有柔韧性，强调协同合作。通用人工智能赋能环境治理牵涉到众多利益相关者，包括环境管理部门、监管部门、普通公众等，敏捷治理范式的多方协作特点能够更好地整合各方的智慧和资源，形成更为全面的风险规制策略。最后，敏捷治理范式强调持续改进和迭代式管理。通用人工智能风险的不确定性和环境问题的持续性要求在治理过程中不断学习和改进，敏捷治理的持续改进机制为规制提供了实践中的反馈循环，使得治理过程能够及时调整，更有效地应对新出现的风险。

在敏捷治理范式下，构建监管沙盒制度为可采取的主要手段之一。监管沙盒是一种测试创新产品或服务的实验性平台，它允许创新者在一定范围内测试新的金融产品、服务或技术解决方案，而不必完全遵循传统监管框架，属于一种豁免机制。通用人工智能作为新兴技术，在技术成熟之前势必会遇到各种问题，监管沙盒制度的构建有助于在安全的环境下为其发展留下试错空间。监管沙盒制度的具体框架设计应重点考虑以下几个方面：一是严格划定应用场景范围，对于智慧环境立法和智慧环境司法等敏感程度和专业化程度较高的应用场景需要审慎适用豁免机制，以规避可能导致重大不可逆后果的风险。二是明确准入门槛，考察模型研发活动和模型在环境治理领域的应用是否具有足够的创新性，以及技术服务提供者是否有健全的事后应对机制。三是设定有限期限，要求通用人工智能技术服务提供者提供相关数据和结果以供监管机构评估。在评估结果的基础上，决定是否放宽规定、扩大环境治理领域的应用范围或全面推广。

四、通用人工智能赋能环境治理风险规制的具体举措

通过秉持包容审慎的治理态度，确认通用人工智能在环境治理中的辅助性地位，并融合敏捷治理的范式，可以在宏观层面确立通用人工智能赋能环境治理风险规制的总体框架。在这一框架的指引下，有必要有针对性地提出风险规制的具体措施，以更有效地应对挑战，实现更加全面和可持续的环境治理目标。

（一）加强环境训练数据的内容生态规范化建设

如前所述，环境训练数据本身的质量和时效性直接影响着通用人工智能生成内容的可信度。只要抓住数据这个关键，虚假信息生成风险的法律规制可达到事半功倍的效果。

在模型训练阶段，首先，应当加强对环境训练数据来源的合法性审查。根据《生成式人工智能服务管理暂行办法》第7条规定，应当重点审查环境训练数据是否符合知识产权、个人信息保护等相关法律要求，确保环境训练数据具有合法来源。对于未经同意而收集用户个人信息等违法违规的数据处理行为，应当依法责令限期整改，逾期未整改的，对其依法予以禁用处置。其次，强化通用人工智能技术服务提供者的数据透明义务。《生成式人工智能服务管理暂行办法》第19 条已经作出规定，要求生成式人工智能技术服务提供者应当按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。这一规定对于用户理解数据处理机制和预期影响提供了有益的指引，是强化环境训练数据的内容生态规范化建设的重要举措。问题在于，该条款数据透明义务的履行以“有关主管部门的要求”为要件，这意味着普通用户可否依据第17条要求生成式人工智能技术服务提供者履行数据透明义务还存在一定的不确定性。考虑到环境数据的来源和质量、数据标注规则以及对人机互动中产生的环境数据的处理均会对用户信任水平造成深刻影响，从而间接影响生成内容。未来通用人工智能治理有必要突破这一局限，在提供者履行数据透明义务的对象范围上作出适度调整，将原本仅面向“监管端”的数据透明义务扩展至“用户端”。

在内容生成阶段，技术服务提供者作为新型的网络内容提供者，负有数字内容“守门人”职责，应承担内容审查的注意义务，预防虚假有害信息的侵权风险。在察觉到虚假有害信息的存在时，及时运用输出拦截和过滤机制，辨识并制止生成违规或有害内容。同时，可要求其在生成的内容中嵌入可识别水印，以便追踪内容的来源，提高责任追溯性。为了向用户传达内容的自动生成性质和潜在风险，技术服务提供者还应当在生成的内容中附加明确有效的警示信息；在内容传播阶段，技术服务提供者有义务采用安全的传输技术和加密机制，防止内容在传播过程中被恶意篡改或截取。平台则负有管理、控制信息进出入关卡的责任，应当建立辟谣和举报机制，并对违法传播虚假有害信息者采取停止传输等限制措施。这一系列措施将有助于强化环境训练数据的内容生态规范化建设，防止虚假有害信息生成，从而导致错误的环境决策。

（二）构建公私合作的规制模式

通用人工智能在环境治理中的应用引发了对传统环境规制权力的技术性挑战。究其原因，拥有核心技术优势的技术服务提供者在环境治理领域展现出明显的竞争优势，导致传统由环境行政主管部门主导的环境规制权力逐渐受到私营机构技术力量的取代，甚至可能发展成技术上的垄断。这一情势对传统环境治理中的公权力主体的地位和权威构成了严峻挑战。为了有效应对这种挑战，需要转变思维方式，摒弃对抗的思维，将公权力主体丰富的治理经验和政策制定能力与私营机构的技术优势相结合，在合作中构建适用于通用人工智能赋能环境治理的最优规制模式。具体而言，实现这一目标主要可以通过以下两个方面展开：

一方面，通过合作协议构建公私合作规制的制度框架。这一协议应详细明确公权力主体与通用人工智能服务提供者在合作过程中的权责义务，并着重规定技术服务提供者的专业领域和行为准则。此外，需要确保技术服务提供者的合法权益，有时需要公权力主体适度放权，以便通用人工智能更好地赋能环境治理。另一方面，为防止技术权力扩张，明确通用人工智能在环境治理中的应用边界至关重要。需要规定通用人工智能在环境治理中的操作领域和范围，确保其应用不会超越正当范围。例如，在环境监测和污染防治方面，需要确保通用人工智能技术不会超越其监测和数据分析的任务范围，避免其过度干预环境决策的过程。同时，需要严格执行《中华人民共和国数据安全法》《中华人民共和国网络安全法》等法律法规，制定操作指南和规范性文件，以法律手段限制技术权力。还应当建立严格的监管框架，规范通用人工智能在环境治理中的使用，包括对数据处理、隐私保护、算法公正性和透明度的要求等方面。

（三）以可解释算法破解算法黑箱

算法难以理解和非直觉性的特点为通用人工智能的价值判断蒙上一层面纱，为其在环境治理中的应用带来了环境非正义的风险，而算法透明正是要揭下这层面纱，使算法露出真实面貌，以维系环境正义。算法透明指通过公开和披露算法的设计原理和数据输入输出等要素，增强算法的可解释性和可问责性，以达到保障算法公正和可信的目的。然而，追求绝对的算法透明并不可取，也绝非易事。诸如公开算法内部工作原理或者对算法代码进行完整备案等方法不仅受到商业秘密、国家机密、公众的认知局限和认知负担等多方面因素的阻碍，也并不符合国家支持鼓励创新的基本立场。为此，需要转变对算法透明的要求，从要求公开整个算法的设计细节，转向注重对算法结果的解释。这种解释并不要求全部披露，也不是简单地标榜透明，而是通过区分解释对象、内容、效果，在可理解中构建足以令人信任的模型。

具言之，在解释对象方面，有必要区分为面向环境监管机构的解释和面向其他利益相关方的解释。这两类主体的知识背景和目标诉求存在一定差异。环境监管机构更侧重于从社会公共利益角度对通用人工智能算法进行安全和无偏见性审查，以避免可能导致环境非正义的情况。而其他利益相关方，如公众和企业，则更关心算法对个人权益的影响或者模型决策如何影响其业务流程。在解释内容方面，一般用户和企业等其他利益相关方通常不需要深入了解通用人工智能每个行为背后的神经元构成及权重变化，对于这些主体来说，更为关键的是能够理解通用人工智能的决策过程和影响因素。例如，公众希望知道污染监测系统如何得出空气质量预警，而企业则关心环保评级如何影响其市场声誉。而对于环境监管机构，深层次的解释需求更为明显，解释内容的重点应集中在决策实例、关键特征和算法整体上，确保监管机构理解算法在实际决策中的运作，帮助监管机构评估模型的基本原理和训练过程。在解释效果方面，对于环境监管机构，解释效果的成功在于能够使其对算法决策的社会影响和潜在风险有全面的认识。例如，监管机构需要了解在应对突发环境事件时算法预测的可靠性和响应速度。而对于普通用户等其他利益相关方，解释应简洁明了，用通俗易懂的语言传达机器运行的基本原理和决定输出结果的主要因素，以促进更广泛的理解。例如，向公众解释一个环境监测应用如何实时评估水质并提供健康风险提示。

（四）构建灵活高效的环境数据安全管理体系

针对通用人工智能应用中的环境数据泄露风险，亟须建立一个灵活高效的环境数据安全管理体系，从多层次、多角度保护环境数据免受侵害。由此展开的环境数据安全管理体系的构成包括以下三个关键方面：首先，在分类分级的基础上强化敏感和重要环境数据安全保护。敏感和重要环境数据之上承载着长远、根本性和更高层次的重大利益，如生态安全，这些利益关系到更多的社会成员，对社会的存续发展更加攸关。相应地，从价值位阶和风险控制的角度，敏感和重要环境数据就更需要法律予以特殊关注和重视。由此，需根据《信息安全技术重要数据识别指南》参考数据来源、价值、敏感程度和影响程度等特征对语料库中的环境数据进行分类分级，并制定差异化的环境数据保护规范，对重要环境数据和核心环境数据采取更严格的保护措施。其次，拓展算法备案制度的数据治理效能。《互联网信息服务算法推荐管理规定》首次提出的算法备案制度已经在推动算法安全综合治理方面发挥了显著作用。可以适当拓展算法备案制度的数据治理效能，引导技术开发者和技术服务提供者动态评估和备案有关环境数据安全、环境数据质量和公平治理、环境数据透明度、环境数据委托监督等相关内容，从而为监管机构提供精确、动态、全面的决策信息，以研判通用人工智能的环境数据治理风险。最后，督促通用人工智能服务提供者履行安全保障义务。《生成式人工智能服务管理暂行办法》第13条明确要求通用人工智能技术服务提供者提供安全、稳定、持续的服务，保障用户正常使用。为此，监管部门应督促通用人工智能技术服务提供者建立严格的数据收集、存储和传输标准，并采用数据加密、访问权限控制等技术手段确保环境数据不会被未经授权的访问或恶意使用。

上述措施在应对外部环境数据泄露风险方面具有积极意义，而对于因模型迭代升级而引发的内部环境数据泄露风险尚未充分考虑。为更全面地应对这一挑战，需要进一步采取以下措施：一是持续加强技术研发的安全性措施，引入先进的隐私保护技术，如差分隐私等，以降低内部数据泄露的风险。同时加强对模型更新过程的监测，确保每次迭代都经过严格的安全审查，以便及时发现潜在漏洞。通过不断提升技术安全性，可有效保障模型的稳健性，降低因技术漏洞而导致的内部环境数据泄露风险。二是用户作为环境数据的提供者和最终受益者，需要具备较高的数据安全意识，在使用通用人工智能服务时审慎输入敏感信息，同时还需要了解在使用过程中可以采取的安全措施，包括如何设置隐私偏好、合理使用数据分享选项、定期审查和更新授权等方面的知识。通过提升用户的数据安全保护意识，可以使用户更主动地参与到数据安全的管理中，减少内部环境数据泄露的风险。

五、结语

生态兴则文明兴，生态衰则文明衰。党的二十大报告提出“尊重自然、顺应自然、保护自然，是全面建设社会主义现代化国家的内在要求”的重要论断，指明了推进环境治理，建设生态文明的重大战略意义。而要加快推进生态文明建设，必须高度重视现代科技的应用。通用人工智能依托数据、算法和算力三大要素，已成为名副其实的新型基础设施，正在隐而不彰地重塑社会结构和治理形态，成为全球新一轮科技革命和产业变革的引擎。顺应人工智能的发展趋势，充分利用通用人工智能技术这一先进生产力，对于推动环境治理现代化和加速生态文明高质量建设具有极其重要的战略意义。从本质上看，通用人工智能赋能环境治理是适应数字化时代要求的新型治理形态，是满足数字化参与和共建共享发展的基本方式，也是“数字中国”战略的核心宗旨所在。在未来的环境治理领域，通用人工智能的应用需要深度融合学术界、产业界、技术界和环境保护界的多元资源和力量，以创新研发模式，自主可控地构建基于通用人工智能模型的环境治理应用。同时，应统筹规划，协同各界资源，通过构建面向环境治理的数据库、开源模型、开发场景等方式，有力推动通用人工智能模型在环境治理领域的创新和应用。

往期目录

关于本刊

《上海政法学院学报》创刊于1986年，原名《法治论丛》（2003年更名为《上海政法学院学报》）。《上海政法学院学报》是我国最早以“法治”命名的法学专业学术期刊之一。

我们立足一流期刊建设目标，坚持 “高质量”“特色化”“专题化”办刊思路，在法学期刊建设上努力探索，学术影响力稳步提升。据中国知网年报显示，《上海政法学院学报》（法治论丛）“复合影响因子”从2022年的3.19提高到2023年的5.26，“综合影响因子”从2022年的1.50提高到2023年的2.97，CI指数排名也从2022年的第33位提升到2023年的30位。此外，据中南财经政法大学2023年信息检索报告统计，《上海政法学院学报》共有42篇次（2022年31篇次）被《新华文摘》《中国社会科学文摘》《高等学校文科学术文摘》《社会科学文摘》和“人大复印资料”等二次文献全文转载或论点摘编，在全国法律类院校学报排名第4位（2022年排第7位）。

我们以“问题意识”为导向，以做好选题策划为根本，在持续推进“党内法规”“数字经济法治”“国家安全法治”等特色栏目建设的基础上，继续追踪学术前沿热点，新增设了“新兴权利法律问题研究”“经典译介”和“初创学者佳作”等专栏。2024年，本刊将新开设“交叉学科研究”“涉外法治研究”专栏及“民法典合同编解释”“新公司法解读”专题，持续对相关领域重大问题进行深入探讨。

我们将以开放姿态拥抱新技术。全面升级网站建设，完善投审稿系统，实现全流程数字化出版；提升微信公众号运营策略，同步推出作者音频视频解读，开通视频号；积极完善网络首发，同步上传作者音频视频，增强学术出版。

我们诚挚地欢迎广大海内外科研工作者关注和支持上政学报并惠赐大作，也欢迎各界朋友积极建言献策、批评指正，以期共同办好《上海政法学院学报》（法治论丛）。来稿请通过《上海政法学院学报》编辑部网站(http://www.shupl.edu.cn/xbbjb/)投审稿系统进行投稿。本刊对来稿严格遵守三审（二审外审）定稿制度，以确保稿件选用公开公平公正。

编辑：汤仙月

审核：康敬奎

以法为基，寻社会治理之策

○

以文为器，求兴国安邦之道

投稿邮箱：xuebao@shupl.edu.cn

微信公众号：law-review1986

网址：http://www.shupl.edu.cn/html/xbbjb

电话：021-39227617 39227619

更多内容请点击下方“阅读原文”进入学报官网查看

上海政法学院学报

law-review1986,汇稿件信息、法学快报、学术资讯等内容，聚纸媒、网媒、活动与服务四位一体，贴近读者、作者、专家的信息需求，做一个有耐心、有速度、有品格、可持续的法学期刊公众号。

上政学报 | 黄秀蓉 赵梓羽：数字赋能与风险规制之衡平：当环境治理遇见通用人工智能

上政学报 | 黄秀蓉赵梓羽：数字赋能与风险规制之衡平：当环境治理遇见通用人工智能