申卫星 | 面向未来的中国人工智能立法：思路与重点 | 推进有未来感的人工智能立法①

人工智能治理正逐步从软法治理向硬法治理迈进，我国人工智能立法也已经被明确纳入立法规划，构建一部满足中国人工智能安全治理和产业发展需求，同时符合国际关于人工智能治理共识的法律，是我们现阶段的目标。现阶段，人工智能法的出场有其必要性，主要体现在三个层面：一是护航人工智能规范健康发展。人工智能全领域应用，带来的信任风险、公平风险、失控风险、社会风险、责任风险等，都需要通过制定法律制度来化解。二是保障人工智能产业创新发展。随着生成式人工智能、判别式人工智能的技术成熟和应用落地及推广，人工智能技术和产业发展中存在的制度障碍已经越来越多，需要我们通过法律制度保障人工智能产业发展。三是助力中国作为负责任的大国参与人工智能国际治理。当下，欧美等西方国家纷纷加快布局人工智能立法，通过人工智能先行立法构建其话语体系，这限制了我国人工智能技术研发的国际合作空间，也必将对我国人工智能产品的国际市场产生巨大影响。面对这一发展趋势，我国要应势而为，积极推动人工智能立法，构筑参与人工智能全球治理的前提和基础。

第一，人工智能产业的全面发展提供了立法的社会基础。当下，以 Bert、GPT 等大规模预训练模型为基础的算法性能不断提升，人工智能内容生成（AIGC）技术在社交媒体、广播电视等领域得到广泛应用；单点算力持续提升，算力定制化、多元化成为重要发展趋势，人工智能可以在更多的终端产品中部署并为自动驾驶、远程医疗等新技术的普及提供了便利。此外，以深度学习为代表的人工智能技术普遍使用大量的标注数据而塑造了智能认知，精准营销、自动化决策技术开始在电子商务、互联网金融、公共行政等领域得到广泛应用。欧盟《人工智能法案》已经设定了构建人工智能监管沙盒的规范和标准。2023年11月，西班牙率先在欧盟内建立了首个监管沙盒。紧随其后，在2024年中关村论坛上，中国发布了国内首个人工智能领域的监管沙盒，首批入选的企业包括中科闻歌、拓尔思和灵犀云等。随着人工智能技术不断发展，近年来相关工程落地应用呈现加速态势。

第二，中央和地方发布的一批人工智能法规、规章形成了立法的工作基础。中央和地方近年来围绕人工智能综合立法、特定技术方向立法、特定行业立法形成了一批部门规章、司法解释、地方法规，为国家立法机关开展人工智能立法积累了工作经验。在人工智能综合立法方面，2022年《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》先后颁布，以促进发展为主兼顾安全治理的立法思路做出了地方探索。在特定技术方向立法方面，中央网信办 2021年12月发布的《互联网信息服务算法推荐管理规定》，对算法技术治理进行了深入探索，并对高风险算法采取备案检查。2022年11月发布的《互联网信息服务深度合成管理规定》对利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的人工智能技术治理做出探索，并前瞻性地为 ChatGPT 等生成式人工智能技术的颠覆性应用提供了安全保障规则。《生成式人工智能服务管理暂行办法》于2023年8月开始施行，中国由此成为首个为生成式大模型专门立法的国家。此外，最高人民法院针对人脸识别技术发布的相关规定，为人脸识别技术的规制提供了法律依据。在特定行业立法方面，交通部、自然资源部等部门围绕自动驾驶等领域的保障性立法，为人工智能的健康发展提供了法治保障。这些工作为未来的人工智能立法奠定了扎实的基础。

第三，国际组织和欧美国家的人工智能立法提供了国际经验参照。国际组织和欧美国家已经分别组成了人工智能立法工作组，并发布了系列人工智能法律（含草案）、法律预备文件。欧盟在2022年9月通过《人工智能责任指令》并确定了针对人工智能系统所致损害的适用规则。欧盟2024年通过的《人工智能法案》提出一种基于风险分级的监管方法。美国在2022年10月发布《人工智能权利法案》，旨在帮助指导自动化系统的设计、使用和部署，从而保护人工智能时代的公民权利。世界经合组织在2019年5月通过了《关于人工智能的建 议》，世界卫生组织在2021年6月通过了《人工智能伦理与治理指南》，联合国教科文组织在2021年11月通过了《人工智能伦理问题建议书》。以上文件同时配套有支撑性的研究报告和立法方向说明，可以为我国的人工智能立法提供参照。

在我国人工智能立法工作中，确定立法的重点难点问题及明确其解决思路至关重要。

第一，人工智能立法的定位应当在促进法和规制法之间找到恰当的平衡点。人工智能立法颇受关注，其中一个核心问题在于该法的定位是加强管制还是促进发展，这一定位备受社会各界关注。如果一部法律仅仅是促进法，则形同产业政策，法律的味道不浓，立法的价值难以彰显。如果立法高估人工智能的风险而设置过重的义务，可能会影响我国人工智能的快速发展，贻误在日益激烈的国际竞争中的发展契机，这也是人工智能产业界对立法最为担忧的一点。所以，未来人工智能法的立场及定位，是宏观层面要回答的首要问题。对此，笔者认为，安全与发展并不是对立关系，不发展是最大的不安全。同时，带有风险的技术创新要在安全的前提下才具有可持续性。国内外的人工智能立法和实践前沿也表明，在人工智能立法中确定安全保障措施有利于提升应用部门和消费者对于人工智能产品的信任度，一味放纵只会导致我们的人工智能产品被污名化，最终会使技术被安全要求所扼杀。人工智能产业的调研表明，技术的应用落地需要人工智能产业促进措施，需要在立法中解决制度约束问题，为科技政策提供法律支撑。

第二，人工智能立法的形式应综合考虑统一立法和分开立法的体系完整性。对于人工智能立法的形式，我国需要考虑的是制定一部综合的法律还是分领域分行业分场景单行立法？笔者对此的回答是，人工智能立法应综合考虑统一立法和分开立法的体系完整性。具体操作就是以综合为主，以单行法为补充和配套。其中的综合立法是指由全国人大常委会制定以人工智能为主题的综合性法律，为人工智能技术发展的基本原则、一般规则、管理体制、运行机制、促进发展的综合措施、法律责任等进行统一立法。此外，这样一部综合性法律难以解决所有问题，还需要根据人工智能不同应用场景和生命周期分别进行配套法规的起草，如对自动驾驶、精准医疗、政府使用人工智能决策等场景分别开展立法。这种宏观和微观视角的协调，可以满足阶段性立法和不断完善的需求，从而适应人工智能技术的不断迭代进化的特点。考虑到人工智能技术的广泛适用性和重要性，综合立法显得尤为必要。同时，为了避免法律体系冲突和市场破坏，应采取中央立法先行的策略，营造鼓励科技创新的法治环境。

第三，人工智能立法的价值是打通人工智能产业发展的痛点和堵点。科技发展原则上是市场自由竞争的结果，不需要法律进行干预，不少“促进法”往往流于形式而浪费立法资源。但是，法律制度也可以通过具有强制约束力的规则促进产业发展。一是划定责任边界以增强投资预期，如明确人工智能研发者、运营者的责任边界，在人工智能领域要坚持“避风港规则”，促进产业发展；二是解决市场资源配置低效的问题，通过立法为数据供给、算力供给和应用部署建立协调机制，推动人工智能技术的发展；三是打造行业生态，通过国家立法在财政支持、人才培养、行业激励等方面提供扶持措施，从而促进专门人工智能行业生态体系的形成。

第四，人工智能法的活动空间在于人工智能立法与现行相关法律之间的关系处理。在我国人工智能立法的过程中，明确其与现行相关法律之间的关系至关重要。这不仅有助于构建协调统一的法律体系，而且能够确保法律的适用性和前瞻性。一是在促进科技发展方面，人工智能立法应充分借鉴并吸收《科学技术进步法》的主要内容。这将确保人工智能作为科技进步的重要驱动力，能够在法律框架内得到有效的促进和支持。二是明确人工智能立法与《网络安全法》《数据安全法》和《个人信息保护法》之间的关系。它们的联系在于，都涉及数据处理行为，共同构成数字经济的法律保障体系；区别在于，人工智能立法更侧重于调整算法运行规则行为，关注人工智能系统如何自动化地模拟、辅助或取代人类行为，并创造新型的人机交互关系。在这个过程中，数据的输入输出处理仍需遵循《个人信息保护法》和《数据安全法》的规定，而算法规则本身则成为人工智能立法的核心。人工智能系统的开发流程，包括模型选择、参数训练等关键环节，对系统性能至关重要，但往往超出了传统数据处理法律的调整范围。人工智能治理的着眼点是智能社会秩序，人工智能中以算法为基础的计算模型结构实际上成为了一种虚拟社会的规则。治理虚拟空间存在一些不透明、不公平、不安全的风险，其治理机制往往不是将保护个人的控制权作为目标，而是将数字社会规则或者数字社会环境的控制权或者公共秩序作为目标。所以，新的人工智能法应当特别强调公共行政监管的逻辑，对于私人权利保护也需要更多发挥行政机关的作用。简单讲，《网络安全法》《数据安全法》《个人信息保护法》构成了人工智能立法的基础性规制，但它们都缺乏对人工智能进行规范的针对性和体系完整性，人工智能立法可以说是在这三法基础上的延伸和专门化。三是明确人工智能立法与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》之间的关系。这三个部门规章都有很强的针对性，构成了未来人工智能立法的工作基础。对于人工智能立法与这三部规章之间的关系，笔者的建议是这三部规章的重要内容都要被吸收到未来的人工智能法当中，其具体的细致规定可以作为未来人工智能法的配套法规出现。

第五，人工智能在立法节奏上如何把握。现在是不是立法的最佳时机，一直是立法的犹疑之处。人工智能产业界不乏有“让子弹继续飞”的呼声。但是，我们必须清醒地认识到，人工智能的发展带来的风险，如自我决定的削弱、高风险技术的泛化等，需要立法来确保其在安全轨道上发展。同时，打破“数据孤岛”、建立人工智能发展与数据合理使用制度等，也需要通过立法来解决。当前，中国亟需在发展与安全两个维度为人工智能提供牵引作用，避免国际竞争中的不利局面和系统性风险。鉴于欧盟和美国已经开展了综合性的人工智能立法，中国也需要有相关的立场和举措来彰显我国人工智能产品的安全可靠性，保障产品的透明度和安全性，使技术和法律共同迈入国际市场。考虑到立法周期长，各界对于人工智能立法的方向尚未能达成一致，建议国家尽早提出人工智能法草案供社会各界充分讨论，待时机成熟适时通过我国的《人工智能法》。

我国人工智能立法应当采取综合立法与行业配套立法相结合的立法体系，以立法形式满足我国人工智能治理对国家基础法律制度的需求。在我国人工智能立法的进程中，确立一系列基本原则和具体制度至关重要。这一体系的构建不仅应促进人工智能的健康发展，保护社会公共利益，还应与国际标准和实践保持协调，确保我国在全球人工智能领域中的竞争力和话语权。

一是人工智能的法定概念及其调整范围。人工智能定义应涵盖从感知到决策的自动化系统，包括机器学习、逻辑和知识系统，并界定其特征。调整范围应涵盖开发者、运营者、使用者的权利与义务，以及国内外系统的地域范围，确保法律的普遍适用性和针对性。二是人工智能法的基本原则。立法应确立鼓励创新、协同治理、公众参与、安全治理四项基本原则，旨在促进技术发展、确保社会各方的参与和监督，并建立公众对技术的信任和信心。三是建立人工智能风险管理制度。借鉴欧盟《人工智能法案》的经验，未来我国《人工智能法》应建立人工智能风险评估和分类分级治理制度，科学划分应用类别和风险等级。依据人类参与程度和对人类权益、社会秩序的影响，将风险分为不可接受、高、有限和低四类，并建立相应的监管规则和评估方法。这一制度的建立有助于对不同类型的人工智能应用采取差异化的管理措施，确保风险管理和创新发展的平衡。四是完善“透明度”和备案等监管措施。基于风险分类建立透明度和备案要求，明确备案对象、内容和流程，对高风险系统建立风险管理系统，对有限风险系统要求透明度和用户知情权，对低风险系统鼓励制定行为守则。五是健全人工智能损害救济和分担机制。为了提高受害者救济能力，立法需明确侵权责任原则，并建立责任保险制度。责任主体可能包括供应商、进口商、经销商和使用者，具体应根据控制权和风险处置能力确定。高风险系统必须购买责任保险，以确保在发生损害时，受害者能够得到及时和充分的救济。现代风险社会受害者救济不能仅依赖法律责任机制，还应建立健全人工智能发展损害救济基金，以此来分散损害风险，减轻人工智能产业发展的压力，推动人工智能的创新发展。六是完善协同监管和企业行业自律机制。落实放管服监管理念，避免监管重复和真空，建立由中央网信办统筹、多部门分工的监管机制，并发挥行业组织和社会公众的监督作用。通过技术标准、风险评估等措施，加强行业组织的自治作用，鼓励在人工智能的研发和运营过程中的公众参与及监督，形成全社会共同治理的新格局。

历史上的颠覆性技术创新都带来了新的立法，以通用人工智能为代表的新技术作为全球公认的一项颠覆性技术创新，也必然形成专门立法。国务院办公厅在2023年度立法工作计划中首次提出“预备提请全国人大常委会审议人工智能法草案”。这一规划的法律名称表明，中国的人工智能立法选择了综合性立法路线，同时可以包含安全治理和产业发展的双重立法目标。《十四届全国人大常委会立法规划》在一类立法规划中也提出：“推进科技创新和人工智能健康发展……要求制定、修改、废止、解释相关法律，或者需要由全国人大及其常委会作出相关决定的，适时安排审议。”这一规划兼顾了人工智能立法的紧迫性和灵活性，有利于相关部门积极推进相关工作。为此，我们要有从容应对的心态和时不我待的责任感推动中国《人工智能法》的出台。