【作者】赵精武(北京航空航天大学法学院副教授、硕士生导师,北京科技创新研究中心研究基地副主任,法学博士,北大法律信息网签约作者)
【来源】北大法宝法学期刊库《法治研究》2024年第6期(文末附本期期刊目录)。因篇幅较长,已略去原文注释。
内容提要:在现有的人工智能治理论争中,预防技术安全风险已经成为主要的研究领域,并延伸出一系列与安全发展相关的基本原则。在这些论争中,绿色原则的重要性往往被忽视,并被狭隘地理解为一种绿色科技创新的法律价值体现。审视《民法典》引入绿色原则的制度演进过程,绿色原则并没有被简单视为虚置性的法律原则,而是作为民法与环境法在立法逻辑层面衔接的重要依托。相应地,在人工智能治理体系中引入绿色原则,核心目的是将环境法中所要求的“节约资源”和“保护生态环境”等要求转化为相应的人工智能治理原则与规则。绿色原则的制度功能主要表现为“与创新发展等其他基本原则相互衔接”“转化为具体的绿色条款”和“作为科技伦理审查的标准”,进而实现兼顾技术安全和绿色环保的高质量科技创新制度保障体系。
关键词:绿色原则;人工智能治理;绿色条款;科技伦理审查
目次 一、问题的提出
二、绿色原则引入的理论基础:立法逻辑的衔接协调
三、人工智能治理体系中绿色原则的基本内涵
四、人工智能治理体系中绿色原则的建构方式
五、结语
在数字经济时代,人工智能技术逐渐成为传统业务转型升级的重要工具。为了推动人工智能技术创新和保障人工智能技术应用安全,诸如安全风险评估、科技伦理审查、算法透明与备案等各类人工智能治理理论相继涌现。在既有的治理探讨中,学者们多是从技术安全风险预防和促进科技创新的角度建构具体的外部监管规则和内部义务体系,鲜有学者将传统理论中的“绿色原则”纳入人工智能治理体系的学理讨论。这一现象背后最直接的原因是“绿色原则”更多地被理解为环境保护的宣示性条款,难以真正有效发挥法律规范应有的调整作用。并且,人工智能作为一项典型的信息技术,既不直接生成对生态环境有害的污染物,也不以海量的自然资源作为科技创新的基础条件,引入绿色原则的必要性也仅仅停留于一般意义上的科技创新绿色发展而已。不同于《民法典》引入绿色原则能够发挥生态保护的公法功能,行政法引入绿色原则能够延伸出政府职能定位中的“环保功能”内涵,人工智能治理体系引入绿色原则缺乏足够的必要性基础,因为绿色原则的制度功能也仅仅是强调科技创新活动需要充分体现生态文明建设理念。更为重要的是,一旦认可人工智能治理体系具有引入绿色原则的必要性,那么这种必要性证成逻辑显然也可以适用于其他科技创新治理体系,进而产生其他科技创新治理体系均有引入绿色原则必要性的结论。而这一结论反过来又会弱化人工智能治理体系引入绿色原则的必要性基础,并将绿色原则的功能定位泛化为法律价值层面的绿色发展理念。
然而,实际情况却与之相反,人工智能产业的商业化应用依赖良好的工业基础,高耗能、不可持续的产业形态反而会限制技术创新和应用。特别是在算力资源领域,算力资源的增长方式并不是单纯依靠增加算力基础设施建设和芯片制造数量即可实现,算力资源的供给具有电力能耗高的特点。换言之,人工智能引入绿色原则的必要性基础并不局限于传统观念中所有科技创新均应当体现绿色发展理念,还包括将绿色原则作为算力治理规则的理论依据、将绿色原则作为平衡科技创新和环境保护两种法益的具体依据等内容。更有意思的是,《民法典》在引入绿色原则的过程中,实际上也出现过类似的理论争议:既然环境法已经在公私法层面详细规定了具体规则,在基本原则部分规定绿色原则缺乏相应的必要性,并且这种引入方式的象征意义要大于实践制度功能。但经由充分且激烈的学术论争后,学者们也从引入方式、功能定位等层面系统阐明了《民法典》引入绿色原则的正当性基础和具体方式。
为了实现人工智能技术可持续创新,必须解决“如何将绿色原则引入人工智能治理体系”这一关键问题。进一步而言,该问题的解决需要从三个层面予以切入:一是阐明在人工智能治理体系中引入绿色原则的必要性,作为基本原则的绿色原则是否真的能够促进技术创新;二是解释人工智能治理体系中绿色原则的具体内容,避免出现法律原则虚置化的问题;三是绿色原则的引入不仅仅是以基本原则的形式实现,还包括转化为具体的“绿色条款”,亦即绿色原则如何与现有的人工智能治理机制进行内容衔接。
(一)绿色原则的基本内涵和功能定位
学者们通常把《民法典》第9条概括为“绿色原则”,即在民事领域,民事主体从事民事活动应当有利于节约资源、保护生态环境。从现有研究成果来看,学界有关“绿色原则”的研究视角主要包括三类:其一,在司法适用层面阐明绿色原则的基本内涵和理论基础。具有代表性的观点是结合司法实践中的适用情形,将绿色原则的实际功能总结为“理解大前提,对法律规则作有利于环保的解释”“判断小前提,对法律事实作倾斜于环保的认定”“裁剪结论,根据环境效果回应诉讼请求,合理确定责任方式”“补充规范,通过环境友好的解决方案填补法律漏洞”和“铺垫引申,强化扩展既定裁判的环保效果”五类,进而指出绿色原则具有其他民事法律基本原则所不具备的独特功能;也有学者归结为“漏洞填补”“价值宣示”“规范解释”和“规范选择”四类,进而延伸出绿色原则可按照“民事规范识别—冲突价值权衡—解释方法探求—比例原则”四步进行规范解释使用。但也有部分学者认为这类结论未能正面解释作为基本原则的绿色原则在司法裁判中如何获得正当性基础,故而在此基础上提出为了避免绿色原则存在失范风险,更应当以谦抑性作为基本理念,对绿色原则的适用作出必要约束。其二,在民法具体领域论证绿色原则的适用方式。为了避免绿色原则内容虚置化,部分学者开始在合同法、物权法等具体领域将绿色原则转化为绿色条款,用以解释该项法律原则的引入和适用方式。如在合同法领域,绿色原则的基本内涵表现为意思自治与绿色干预,即以环境保护为目的,对合同自由施加一定限制。《民法典》第619条规定的绿色包装义务、第625条的标的物回收义务等条款便是绿色原则的直接体现。其三,在其他部门法领域论证引入绿色原则的可能性与必要性。如在破产法领域,绿色原则中“节约资源”的基本内涵被解释为“降低成本、提升效率”,而预重整机制作为“考量债务人企业重整价值及可行性、降低重整成本、提高重整成功率”机制,本身就符合绿色原则内在的资源高效分配之内涵。
这些理论主张均在不同维度尝试将绿色原则的基本内涵予以具体化。因为如果仅仅将绿色原则视为环境法在民法体系中的“转介条款”,等同于将绿色原则定位为环境保护的宣示性条款,虚化该原则的实际功能。在解释绿色原则的基本内涵时,多数观点还是从节约资源和保护生态环境两个角度展开。
节约资源通常是指以最低的资源消耗量实现社会财富的最大化或生态成本的最小化。不过,对于“资源”的概念范畴却存在“仅限于特定资源”和“包括广义上的社会生产资源”两类观点,“节约资源”也延伸出“狭义上的不可再生自然资源保护”和“广义上的节约任何财产或资源”两种基本内涵。广义论的支持者认为,节约资源“等同于社会成本最小化或社会财富最大化”,如此便可统合信赖保护等法教义学概念;反对者则认为这无疑否定了绿色原则的独立性,“仅注重规则的最终功能”,脱离了绿色原则的具体适用过程。
保护生态环境的基本内涵则存在两种观点,一种观点则是将其视为在节约资源基础上的进一步提升,强调在整体层面对生态环境的系统性保护。另一种观点则是将其视为与节约资源同等重要的环境保护要求,如采取一切可能、适当且合理的措施消除或缓解生态环境损害、提升生态系统整体状态。
(二)绿色原则的理论起点:《民法典》与环境法的规则衔接
在既有的讨论中,民法学者更倾向于证成绿色原则有别于环境保护一般要求的制度价值,避免将绿色原则引入《民法典》的现实意义泛化为“为了彰显和回应生态环境保护要求而特意引入”这一浅显含义,同时也是为了避免绿色原则成为游离于平等原则、诚实信用原则等传统民法基本原则之外的“外部原则”。因此,在绿色原则司法适用方式的论争过程中,《民法典》与环境保护法的制度衔接方式也成为另一个研究重心。这是因为民法与环境法两种不同的立法逻辑决定了绿色原则司法适用应当满足何种立法目标:若依循民法立法逻辑,绿色原则的司法适用通常是限制过度追求利益和效率的民事活动;若依循环境法立法逻辑,绿色原则的司法适用应当以体现社会治理过程中绿色理念为标准。事实上,在《民法典》编纂过程中,立法逻辑的衔接问题也成为绿色原则是否有必要引入民法体系的“导火索”。在具体的立法活动中,绿色原则的引入是因为传统民法忽视环境保护问题,未能体现生态文明建设的基本要求。不过,绿色原则在家事法等领域并不具备适用空间,无法支撑其作为具有普适性基本原则的功能定位。特别是受到传统民法立法逻辑的影响,在实施效果层面,绿色原则实际上是对民事权利行使的限制性要求,故而在《民法总则草案》三审稿曾一度将绿色原则条款置于“民事权利”章节。
民法与环境法在立法逻辑上最大的区别在于,民法更强调对个体权益的保护,环境法更强调社会公 共利益的保护,也有学者将之总结为“民法是以个人主义安身,环境法是以整体主义立命”,或归结为“民法体现出明显的功利性,而生态利益具有非功利性”。为了协调这两种迥异的立法逻辑,必然需要解释绿色原则如何平衡个体权益和公共利益这一法学领域的经典问题。特别是在个体义务层面,如果绿色原则的引入意味着民事主体在具体的民事活动中需要承担不同程度的环境义务,这又与民法自身的体系定位乃至私法自治理念相悖。那么,这一问题显然不能按照孤立的部门法思维论证民法体系中绿色原则的基本内涵去回答,因为泾渭分明的部门法划分逻辑很容易使得绿色原则沦为倡议性原则或者约束性原则。环境法既包括公法层面的规则,也包括私法层面的规则。因为从以往的环境治理实践来看,环境污染不仅仅是工业企业违法排放污染物等单方面原因造成的,还涉及日常生活中的生活垃圾、社会生产资源消耗等因素。为此,也有学者将《民法典》中绿色原则、绿色条款以及绿色义务的制度意义归结为环境治理路径“从依靠公主体的单条腿走路转向公主体、私主体协同治理,公共利益与私利益协同保护”。进一步而言,环境法实现环境保护立法目标的方式既包括自上而下的行政监管活动,也包括市场调节机制相关的资源交易活动。因此,绿色原则实现利益平衡的关键环节便是实现民法与环境法中私法内容的协调统一。具体而言,这种协调统一主要是以自然资源的开发、利用和交易机制为基础,通过市场化机制调动各类市场主体保护生态环境的经济动机。绿色原则对民法中自然资源所有权、使用权的实施方式提出要求,既不能出于环境保护目的选择一概限制自然资源的开发使用,也不能为了追求经济效益过度开发自然资源,而是应当形成符合绿色原则的生态市场交易机制,兼顾交易效率和环境保护。
(三)《民法典》引入绿色原则的争议回应
绿色原则作为民法基本原则纳入《民法典》体例之中始终存有争议。因为《民法典》即便不在基本原则中规定绿色原则,也不会影响环境法的相关规则适用于民事领域。相对地,为了凸显《民法典》的绿色理念,机械地将“节约资源”和“保护生态环境”等笼统表述置于基本原则之中,反而还有可能使得《民法典》体例的不完整与不协调。为此,针对绿色原则引入《民法典》的正当性基础,学者们也提出相应的解释方案:其一,绿色原则往往被狭隘地理解为“生态环境保护原则”,忽视了该项原则所包含的“节约资源”内涵,进而得出“绿色原则仅能适用于相当有限的民事活动,不符合基本原则的定位”的结论。绿色原则并非只能适用于物权法、合同法等领域,同样能够适用于人身关系法领域。如在监护法领域,监护制度的设置最初是为了预防被监护人挥霍祖产,故而具有“制止浪费的功能”。其二,绿色原则不是其他民法基本原则的“衍生物”,该项原则在内涵、功能等方面具有其自身的独立性。虽然在某种程度上,绿色原则与公序良俗原则在保障社会公共利益等方面具有相似性。但是,相较于公序良俗原则对人与人之间关系的关注,绿色原则还关注人与自然之间的协调关系,并且违背绿色原则可能导致的法律结果不仅仅是民事法律行为的无效,还包括生态环境侵权损害赔偿。此外,公平原则通常被作为判断法益平衡的制度工具,但内在的平衡逻辑往往是比例原则、危险收益相适应等内容,而绿色原则能够从生态环境保护的视角提供更具针对性的价值平衡标准。其三,绿色原则进入民法体系之中并没有直接转化为“效率原则”或者“社会财富最大化原则”。虽然绿色原则的基本内涵包含了节约资源、避免浪费之义,但是该原则应当是民法的内源性原则而非外源性规则,其核心功能是作为“绿色因素和人身、财产因素之间的位序、权重”的排序依据和比较指标,属于兼顾定性评价和定量评价的独立原则。
结合前述民法与环境法的规则衔接方式,不难发现《民法典》引入绿色原则相关质疑的回应实质上 均在强调避免狭义地理解绿色原则的基本内涵。因为一旦将绿色原则狭义地解释为民事活动应当符合生态环境保护要求,无疑忽视了该项原则在将环境法规则转化为民法规则过程中的协调功能,使得绿色原则仅仅是作为一项抽象性原则而存在,而不是基于这项基本原则在民法体系中延伸出“绿色条款”和“绿色义务”。需要澄清的是,在固有的经济效益与环境保护相冲突的观念下,绿色原则会被视为对民事活动增加额外的限制,但从具体的绿色条款内容来看,《民法典》第619条在规定“绿色包装义务”的同时,并没有将“当事人约定优先”排除在外。换言之,绿色原则对民事活动的限制作用本质上属于“禁止权利滥用”,而非增加额外的义务性负担。并且,无论是对绿色原则作为基本原则普适性的质疑,还是绿色原则与其他民法基本原则内容重合的质疑,均在不同程度上限缩了绿色原则的功能定位,认为只有跟生态环境相关的民事活动才有可能涉及绿色原则的适用问题。但是,绿色原则真正强调的是实现绿色经济的良性发展状态,节约资源、提升社会生产效益等均是该原则的基本内涵。更重要的是,这种法律价值的权衡不能等同于法律经济分析意义上的成本效益分析,因为其预设前提是“人总是追求自我利益的最大化”,核心是个人主义。这显然与绿色原则所追求的整体主义层面的协同发展存在论证语境的差异性,并且还可能不当扩大绿色原则的适用范围,将绿色原则对民事活动的促进和约束作用限缩为限制功能。
(一)绿色原则的引入基础:治理逻辑的衔接
从《民法典》引入绿色原则的学术论争来看,绿色原则的引入在立法目标层面是落实生态文明的重要体现,但在法律适用层面,这种引入更是实现环境法与其他法律规则衔接的基础环节。在人工智能技术治理体系中,是否有必要引入绿色原则也面临着与之类似的问题,亦即在立法逻辑层面,人工智能技术治理规则如何与环境法规则进行衔接。如果仅从具体规则内容来看,人工智能技术治理体系并不涉及环境保护的相关内容,但从影响技术创新的要素来看,算力资源的生成、获取、调度以及供应等问题无不与环境保护相关,需要制度层面引导合理的产业布局。尽管市场对人工智能技术持续创新持乐观态度,但在某种程度上,基于大模型的生成式人工智能需要海量的算力资源支撑其进行训练数据分析和算法模型优化,算力资源的供给能力成为人工智能技术的创新瓶颈。然而,这种算力资源的供给总量并不能简单地通过频繁修建算力基础设施、增加各地数据中心等方式进行提升。因为满足人工智能产业需求的算力资源往往意味着需要庞大的电力资源予以支撑,而我国目前算力资源存在“集约化水平不高”“资源分配不均衡”等现实问题,密集修建算力基础设施只会加剧电力能源的消耗,无法真正有效满足算力资源的合理分配和调度。进一步而言,人工智能产业创新治理问题本质上也是电力能源低碳使用问题,人工智能治理体系也需要正面回应科技创新与绿色节能两种治理目标之间的平衡问题。在立法逻辑层面,人工智能治理规则与环境法规则的衔接基础之一在于“节约资源”和“资源的高效使用”,亦即算力资源的供给方式应当满足资源友好型的立法目标。
绿色原则在衔接民法与环境法立法逻辑的过程中,主要是通过私法规则的协同统一予以实现。然而,人工智能治理规则与环境法规则的衔接方式并不仅限于私法规则,还涉及促进技术创新相关的公法规则。如果仅从私法层面考量,算力是由私主体投资建构算力中心所生成的,并且建设算力中心也是以满足环境监管要求为前提,公权力难以寻找到正当性依据直接干预算力中心建设和算力供给活动,绿色原则也就无法适用于算力生成供给环节。如果基于环境法的治理逻辑,算力中心的建设不仅需要满足局部地区的环境保护要求,同时还需要满足社会整体层面的环境保护要求。诚然,绿色原则无法对算力供给和交易环节进行限制,但并不妨碍对算力生成环节进行干预。在社会整体层面,有限的电力资源供给决定了算力中心的建设数量存在上限,无规划的算力中心建设活动只会造成算力资源的浪费,故而国家在算力中心建设布局层面的公权力干预显然具有正当性。并且,近年来发布的人工智能产业政策文件也是将“绿色算力”作为重要内容,如《深入实施“东数西算”工程加快构建全国一体化算力网的实施意见》不仅提及了“增强绿色算力供给水平”,还明确强调“加强各类算力资源科学布局”。这些产业政策文件的制定目的也是为了避免基于营利目的、抢占市场先机等因素而出现无序建设算力中心的现象。这样不仅可能造成既有算力资源的闲置,还会因地理位置等因素导致算力资源的调度成本增加、数据传输处理效率下降等问题。只有合理地规划算力网络各个节点的建设地址和数量,才有可能实现算力资源社会总量和使用效率的最大化。因此,人工智能治理规则与环境法规则的衔接基础之二在于公私法层面的资源有效供给,亦即私法层面算力资源有效调度分配和公法层面算力节点规划性建设的规则协调。既需要在具体的算力交易机制层面明确算力交易规则的“资源高效利用”,还需要在算力生成供给机制层面明确算力资源分布的“绿色环保”。
(二)绿色原则引入的必要性
在人工智能治理体系中增设绿色原则之前,还有一个引入必要性问题需要予以回应:缘何只有人工智能治理体系需要引入绿色原则,其他科技创新治理体系不需要引入绿色原则。进一步而言,如《节约能源法》第4条提及了“节约与开发并举”,第12条规定了“国务院和省、自治区、直辖市人民政府推进能源资源优化开发利用和合理配置”的具体规则,现行的环境法已经足以解决科技创新治理过程中可能存在的各类生态环境问题,再以宣示性原则的形式在人工智能治理体系中引入绿色原则似乎多此一举。
然而,这些质疑观点本身存在两个误区:其一,绿色原则不是专属于某一个部门法或者某一部法律的基本原则,而是普遍适用于各个领域的公理性原则,只不过在以具体条款形式呈现时会因相应法律体系的差异性而有所变化。从现代环境法的立法目标来看,“污染治理——生态保护——可持续发展”的演进发展过程也说明环境法并不是一个内部封闭的部门法概念。在维系生态环境体系良性发展和推动经济社会可持续发展的治理活动中,环境法必然需要与特定领域的“特别法”实现基本原则、具体规则以及权利义务内容层面的制度衔接。其二,人工智能治理体系中引入绿色原则并不能仅停留于基本原则的条款引入,还包括绿色原则向绿色条款或绿色规则的延伸和转变,进而产生与人工智能创新应用相关的具体规则。事实上,在《民法典》引入绿色原则的学理争论中,就已经有学者注意到学界普遍忽视了对绿色原则和绿色条款的体系化解释,这也导致《民法典》中的绿色原则与环境法的具体规则在解释论层面存在明显的割裂状态。
一方面,人工智能治理体系中的具体绿色条款需要以绿色原则作为正当性基础。《环境保护法》第4条和《节约能源法》第4条明确将保护环境和节约资源作为基本国策,且《环境保护法》第2条将“环境”界定为“天然的和经过人工改造的自然因素的总体”,《节约能源法》第2条将“资源”界定为“煤炭、石油、天然气、生物质能和电力、热力以及其他直接或者通过加工、转换而取得有用能的各种资源”,这意味着无论是人工智能技术应用,还是其他科技应用领域,均应当遵守环境保护和节约资源的相关要求。《环境保护法》《节约能源法》的具体规则是以环境保护立法体系为主要内容,未对特定科技创新应用作出更为明确的规定。在大数据、区块链、工业互联网等信息技术应用活动中,环境法体系的既有规则已经足以解决现阶段技术应用可能存在的资源浪费或环境污染问题。可是,在人工智能技术应用活动中,环境法体系的既有规则并不能直接推导出能够直接适用于算力供给的具体规则,故而需要绿色原则的引入实现一般原则与特别规则的衔接。在司法适用层面,环境法规则在所有科技创新应用领域的普遍适用性本质上是将绿色原则泛化为一般意义上的环境保护要求:要么作为科技创新应当有利于环境保护的解释依据,鼓励和支持低碳绿色的科学技术创新应用;要么是为环境法益与民事权益之间的法益平衡问题提供具体的价值衡量标准,尽可能降低具体民事活动对生态环境的不利影响。这种普遍适用性显然无法契合特定科技创新活动存在的技术特征与产业实践趋势,难以在算力、算法以及数据相关的人工智能创新激励机制中发展环境法规则的解释空间。
另一方面,人工智能科技创新的低碳环保目标需要通过引入绿色原则实现环境保护规则的“内部化”。在生态文明理念下,环境保护既涉及直接的环境污染治理、节约能源等内容,也涉及环境保护与社会经济发展的统筹兼顾。并且,第三代环境法体系下,生产发达、生活美好、生态平衡的“生态共赢”被部分学者视为实现高质量发展、高品质生活和高水平保护立法目标的重要路径。人工智能技术尚处于发展阶段,更需要基于生态文明理念在治理体系内部实现环境保护与科技创新发展的目标统合。诚然,《环境保护法》《节约能源法》能够约束和限制人工智能的“非绿色”创新发展,但是,这种外部规范终究未能实现人工智能科技创新激励机制与绿色发展保障机制之间的内容衔接。并且,这些外部规范使得环境保护规则以义务规范的形式适用于科技创新活动,而非促成科技创新活动的“绿色转型”。以算力资源供给机制为例,在《环境保护法》《节约能源法》所建构的环境保护、节约资源的制度框架下,算力资源供给机制的基本内容是节约电力能源的义务性规范,难以直接推导出涉及算力资源布局、算力资源供给的保障性条款内容。在技术层面,算力资源总量在短期内始终存在上限,绿色原则在人工智能治理体系中的核心功能表现为延伸出算力资源的统一规划和合理调度,建构高效调度算力资源的生成、供给和交易机制等具体规则。绿色原则所指向的“节约资源”不能泛化为尽可能降低资源消耗量,而是应当定位为在相同条件下实现资源利用的效率最大化,人工智能治理体系所要实现的“节约资源”目标也应当包含合理控制资源消耗总量和提升资源使用效率两层内涵。由此可见,绿色原则的引入能够将外部性的环境保护规范内容整合至人工智能科技创新促进机制中,实现立法目标从“在人工智能科技创新过程中兼顾环境保护”向“促进人工智能绿色创新发展”的转变。
(三)绿色原则的基本内涵
尽管现行的《生成式人工智能服务暂行管理办法》《互联网信息服务算法推荐管理规定》等法律法规尚未明确规定“绿色原则”,但是在《人工智能示范法2.0(专家建议稿)》第9条和《人工智能法(学者建议稿)》第12条均有提及“绿色原则”。从这些建议稿内容来看,人工智能治理体系所引入的绿色原则主要包括技术研发层面的“推动人工智能研发活动绿色环保”和技术应用层面的“促进人工智能绿色创新应用”两项内容。
在科技创新研发层面,绿色原则的基本内涵是人工智能的研发活动应当遵循绿色发展原则,以节约资源的方式实现人工智能技术创新。人工智能创新发展离不开庞大的算力资源供给,这也意味着会加剧电力能源消费,产生更多碳排放。倘若研发创新活动以无序、无规划的方式进行,只会造成科技创新资源浪费的结果。在该环节,绿色原则并非对具体的科技创新活动本身作出限制,而是强调促进科技创新活动不应当是无规划地提供创新要素。换言之,促进科技创新机制应当实现两项目标:一是规划性整合创新要素。在算力网络建设的大背景下,更需要监管机构在全国范围内有序规划算力节点建设,避免重复建设、密集建设等资源浪费问题。二是高效调度、整合创新要素。在实践中,部分建成的算力中心、数据中心存在利用率低、基础设施闲置等问题,实际的算力类型需求也会因具体应用场景而存在显著差异。因此,人工智能技术创新过程中需要以算网的形式整合不同类型的算力资源,提高算力资源的实际利用率,并通过统一的技术标准,降低不同算力资源无法相互转换使用的弊端。
在科技创新应用层面,绿色原则的基本内涵是人工智能技术应当以环境友好型、资源节约型的方式进行创新应用,并且积极推动人工智能技术在生态环境保护领域的应用。绿色原则的这一基本内容也适用于其他科技应用场景,本质上强调的是在科技应用的各个环节遵循绿色发展和生态文明建设理念。一方面,绿色原则指向了科技创新应用的全流程绿色发展理念。在工业社会,技术治理模式通常表现为“技术应用在先,环境治理在后”的特点。时至今日,在环境法理论趋于成熟的当下,技术治理模式则转变为技术应用发展与环境保护同步进行。此种治理模式既可以避免事后环境生态的不可修复性问题,也可以在技术应用之初就体现绿色发展的要求,降低事后限制或禁止部分技术应用时的救济成本。另一方面,绿色原则指向了人工智能技术的优先应用领域。部分学者认为人工智能在优化先进制造业方面“不仅能够实现更高水平的节能环保,且提供的产品也具备绿色属性”;并且,工业的智能化转型也能通过市场需求与生产规划的高度匹配实现社会资源的合理分配,特别是在智能化检测、预警系统领域的技术应用能够“促进能源利用标准化和高效化”和降低非必要能耗。此外,人工智能技术在环境污染治理领域的应用具备“提高环境污染信息获取效率”“实现环境精细化管理”以及“通过智能温控系统实时感知周边环境的环境变化”等功能,能够有效推动社会环境治理效果。
(一)法律原则与其他原则的逻辑关系
审视学者建议稿中的相关基本原则,存在共识性的基本原则包括公平原则、正当使用原则、创新发展原则等,而《生成式人工智能服务暂行管理办法》则规定了发展和安全并重原则、促进科技创新和依法治理原则以及包容审慎、分级分类监管原则。人工智能安全作为核心的立法目标之一,其基本内涵早已不再局限于技术安全,还包括了伦理安全和发展安全。技术安全主要指向的是人工智能技术自身的安全可靠,相应的技术安全风险能够通过人工介入等方式控制在可接受范围内。基于技术安全所延伸出的技术安全规范并不足以涵盖所有的人工智能治理问题,故而还需要引入其他规则解决伦理安全和发展安全的相关问题。伦理安全主要侧重人工智能创新应用方式应当合乎科技伦理规范,不应当以牺牲人格尊严和自由为前提,发展安全侧重人工智能创新研发和技术应用应当以可持续发展的方式进行,这两种安全内涵所对应的法律原则或规则除了透明可解释、创新发展、正当使用等内容,还涉及绿色发展的内容。因此,以绿色发展为基本内容的绿色原则在人工智能治理基本原则中具有内容和功能的独立性。该原则作为环境法与人工智能治理体系在立法逻辑层面的衔接要素,与创新发展原则、包容审慎原则、分级分类监管原则等其他基本原则在“人工智能安全”层面存在着一定关联性。在内容上,绿色原则可能与其他基本原则存在部分内容的交叉重叠,但倘若从立法体系完整性的角度考量,这种交叉重叠实际上是绿色原则在促成人工智能安全治理体系完整性的必然结果。
第一,绿色原则与创新发展原则共同构成人工智能科技创新促进体系的核心内容。在《民法典》引入绿色原则时,学者们通常将绿色原则的实际功能解释为,在个案裁判中衡量生态环境法益与其他法益优先顺位的价值标准,亦即尽可能实现民事权益保障与生态环境保护之间的平衡状态。而在人工智能治理体系中绿色原则不仅仅表现为科技创新与生态环境保护的内在制度要求,还嵌入至科技创新的全部环节,将科技创新的基本内涵从“禁止不合理的应用方式”“预防技术滥用风险”等合法性创新要求延伸至“实现绿色型创新发展”。需要说明的是,生态环境保护往往被视为促进科技创新的约束性条件,但在人工智能治理活动中,绿色原则是算力资源供给制度建构的正当性基础,故而该原则本身也构成了科技创新机制的重要组成部分。
第二,绿色原则与包容审慎原则在人工智能技术监管领域呈现相辅相成的逻辑关系。现阶段,人工智能产业尚处于发展阶段,对科技创新方式、科技应用方式作出过多限制,反而可能导致法律与人工智能产业发展现状不适配的问题。在数字经济时代,包容审慎监管的核心功能是在划定违法性边界的基础上,以暂缓干预等方式,尽可能为新技术、新业态的发展预留足够的创新发展空间,因此也有学者将包容审慎的基本内涵解释为“包容创新(鼓励创新、保护创新、宽容创新)”和“审慎监管(辅助性、实验性、比例性和科学性监管原则)”两项内容。相对地,在人工智能应用监管中,绿色原则是为“审慎监管”提供补充性判断标准。例如,对于新型技术应用模式,包容审慎原则要求相应的监管体系应当在获取足够的监管经验、 试点信息之后再明确具体的监管规则,而在试验性监管活动中,绿色原则构成了新型技术应用的“法律底线”。这种“法律底线”能够有效解决试点监管效果评估中过于侧重经济指标的弊端,进而建构经济指标和非经济指标并存的“发展导向型”行政监管模式。
第三,绿色原则与分级分类监管原则组成人工智能治理体系的不同治理指标。确立分级分类监管原则的根本目的是更好地回应不同类型人工智能的技术风险治理需求,相对地,绿色原则适用于不同类型的人工智能应用领域时,相应的治理规则也会随着具体应用类型、风险程度而发生变化。结合发展和安全并重原则来看,所谓的“并重”强调的是促进科技发展和保障科技应用安全的协同治理。分级分类监管原则基于风险类型、程度等因素,将这种“协同治理”明确为类型化的治理模式;绿色原则基于资源浪费程度、环境治理功能等因素,将这种“协同治理”明确为资源节约型和生态环境保护型的差异化治理规则。
(二)绿色原则的延伸内容:绿色条款
在人工智能治理体系中引入绿色原则的另一个目的在于,为相应的绿色条款提供正当性基础。《民法典》引入绿色原则的相关争议中,部分研究成果存在“重绿色原则,轻绿色条款”的研究疏漏。事实上,绿色原则被虚置化的一个重要原因便是割裂了“绿色原则+绿色条款”的绿色法律体系,使得绿色原则的引入被泛化为生态环境保护理念的引入,而未真正关注到绿色原则所延伸出的绿色条款。更重要的是,绿色原则基本内涵之一的节约资源也因为绿色条款的忽视而被扩大解释为财产利用效率等含义,这种扩大解释反而还会使得环境法规则在其他法律中转化为法律经济分析或财产利用效率评估。在人工智能治理体系中,绿色原则的基本内涵是“实现节约资源型的科技创新”和“环境友好型的科技应用”,包含了促进科技创新和引导科技创新应用两个层面的绿色发展要求。因此,绿色原则也延伸出激励性和限制性两类绿色条款。
激励性绿色条款是指基于市场调节机制,激发科技创新主体的内在经济动机,将科技创新的低碳环保目标与经济发展目标进行有机整合,实现科技创新活动的低碳绿色发展。具体而言,该类绿色条款主要包括:一是建构算力网络整体规范机制。算力基础设施的建设应当在国家层面进行整体性规划,避免出现局部地区算力节点分布过于集中或松散的现象出现。该类绿色原则的核心内容是明确全国性和地方性算力网络建设方案的协调性,实现同步规划和同步建设的制度效果。二是建构政府辅助型的算力供给机制。纯粹由政府主导的算力供给体系既不符合算力资源的财产属性,也会使得算力供给效率无法达到预期。例如,北京市经济和信息化局印发的《人工智能算力券实施方案(2023—2025年)》和贵州省大数据发展管理局印发的《贵州算力券管理办法(试行)》均提及了“算力券”形式的算力补贴机制,其目的也是为了提升算力的使用效率,满足中小微企业因自身规模等因素难以获得匹配算力资源的问题。三是建构符合市场调节机制的算力交易制度。在市场调节机制作用下,算力资源能够以最符合商业效率的方式进行整合、调度和交易,并且,为了获取更多算力交易市场份额,市场化的算力交易机制也会促使算力服务提供者主动提供符合技术标准的算力资源。
限制性的绿色条款则是指人工智能的科技创新活动和具体应用模式不应当以降低资源利用效率、破坏生态环境为前提,禁止人工智能技术应用于不利于生态环境保护的特定场景。该类绿色条款主要是对技术研发者、技术使用者施加特定且有限的环境保护义务,故而相应的条款类型包括:一是人工智能相关的基础设施建设应当符合特定的环境影响评估要求。算力中心等新型数字基础设施具有高耗能特征,在特定地区密集建设只会导致周边生态环境遭受不利影响。二是人工智能技术不应当以“增加经济效益、降低环境质量”的方式被商业化应用。人工智能技术不会直接造成环境污染结果,但是该项技术具有提升工业制造效率等辅助功能。倘若化工行业利用人工智能技术单纯提升化工产品生产总量而不是用于优化生产流程、提升内部管理效率,其直接结果显然是在增加化工产品整体产量的同时,加剧了污染物排放总量。
(三)绿色原则与科技伦理审查的衔接
在人工智能治理实践中,绿色原则的适用方式除了填补法律空白和转化为具体的绿色条款之外,还包括作为科技伦理审查的“绿色审查标准”。《科技伦理审查办法(试行)》第15条第5项将“设计数据和算法的科技活动”纳入科技伦理审查的范畴,并且审查内容除了判断是否符合国家有关要求、伦理风险评估审核是否合理之外,还包括是否符合公平、公正、透明、可靠、可控等原则。虽然现行立法并没有直接明确将环境保护纳入科技伦理审查事项,但是公平、可靠、可控等原则本身就已经包含了“节约资源”“保护生态环境”的基本内涵。安全可靠的科技创新活动不仅能够有效降低各类潜在的技术安全风险,同时也能够保障法律主体的各项合法权益,符合社会公共利益。此外,《科技伦理审查办法(试行)》第15条第2项还强调科技活动的研究目的应当对“增进人类福祉、实现社会可持续发展等具有积极作用”,高耗能、低产出的人工智能产业发展模式显然无法满足社会可持续发展的基本要求。因此,所谓的“绿色审查标准”主要指向人工智能科技创新活动是否违背“资源节约型”“环境友好型”的国家生态文明建设目标,相应的具体审核要素包括是否严重浪费算力资源、技术应用场景是否可能加剧环境污染等。
在科技伦理审查机制中,绿色原则转化为合法性、合伦理性认定标准的过程实质上也是科技伦理法治化的过程。在过去,科技伦理治理模式未能得到国内法学者的普遍重视,核心原因在于,这类治理模式存在理论与实践转化过程的“断层”:在理论层面,科技伦理规范确实能够在一定程度上约束和限制不合理的科技创新活动;在实践层面,科技伦理规范的适用和审查却难以“落地”,既难以组织必要的伦理学、哲学专家定期展开评估和审查,也缺乏相应的审查理论建构具体的审查规则。为此,国外学者总结了三种科技伦理审查理论试图解决这一实践困境:“嵌入式伦理”强调将科技伦理规范嵌入到人工智能创新应用的全过程;“一致式伦理”强调人工智能的运作方式应当与共识性伦理规范相一致;“价值敏感设计”则强调在人工智能技术设计研发过程中实现同步伦理考量的方法。在人工智能科技伦理审查领域,这些科技伦理审查理论存在“易受到专家个人意见影响”“停留于试验阶段”等问题。结合人工智能自身的“算法黑箱”等技术特征,有学者认为人工智能科技伦理审查无法采用单一的审查方法论,更需要建构一种“多学科多主体共同参与”的审查机制。因此,在具体的制度建构过程中,基于科技伦理多元化治理思路,绿色原则与科技伦理审查的衔接方式除了转化为相应的“绿色审查标准”,实际上还需要与科技伦理审查机制的具体内容进行衔接:一是在审查主体方面,科技伦理审查委员会的组成人员除了人工智能技术专家之外,还需要包括具备生态环境保护知识背景的专家。二是在审查对象方面,既需要对人工智能科技研发全流程进行“绿色审查”,还需要对人工智能应用方式的实际效果进行“绿色审查”。三是在审查流程方面,基于全流程的绿色监管理念,审查活动应当包括技术商业应用前的“绿色审查”、应用之后的跟踪审查以及审查结果的整改反馈。
在未来的人工智能立法活动中,绿色原则是协调人工智能法与环境法在立法逻辑和具体规则方面的重要制度工具。在促进人工智能科技创新发展、保障人工智能技术安全的立法目标下,绿色原则不能被简单地解读为生态文明建设理念在科技创新治理中的法律价值体现,而应当被理解为人工智能高质量创新发展的具体方式。技术层面的安全风险预防无疑是人工智能创新发展的重要保障,但资源节约型、环境友好型的科技创新活动同样是人工智能高质量发展的另一种体现。在人工智能立法体系中,绿色原则作为基本原则的普适性主要表现为设计、研发、应用等各个科技创新环节的“低碳要求”以及人工智能技术应用场景的“环境友好型要求”。相应地,这种普适性也意味着未来的人工智能立法需要在各个章节中增加必要的绿色条款,实现法律价值层面的绿色发展理念向法律实施层面的绿色条款内容转变。总结而言,人工智能立法既应当关注技术安全风险、伦理风险的预防和控制,也应当关注科技创新的绿色低碳发展,建构更为全面和综合性的治理框架。
《法治研究》——中共浙江省委政法委员会主管、浙江省法学会主办的法学理论刊物,中文社会科学引文索引(CSSCI)来源期刊(扩展版),中国人文社会科学期刊AMI综合评价(A刊)扩展期刊,人大复印报刊资料重点转载来源期刊。
1. 私有智库:单篇对话与向量检索的智能融合
-END-
责任编辑 | 郭晴晴
审核人员 | 张文硕 韩爽
本文声明 | 本文章仅限学习交流使用,如遇侵权,我们会及时删除。本文章不代表北大法律信息网(北大法宝)和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
郑曦:刑事诉讼领域个人信息权的限制与规范 | 法治研究202405
张保红:物权变动规则是一个解释选择吗?| 法治研究202404
何萍 刘继琨:法域协调视角下生成式人工智能产物涉知识产权问题研究 | 法治研究202403
吴汉东:“平台经济 + 数字知识产权”的反垄断问题研究 | 法治研究202402
孙晋 马姗姗:数字平台自我优待的反垄断规制困境与优化进路 | 法治研究202401
赵精武:论聚合平台的数据安全保障义务 | 法制与社会发展202406
赵精武:科技伦理嵌入人工智能治理体系的路径展开 | 法治社会202405
关注下方公众号,获取更多法律信息