【AI法评论速览】人工智能技术的法律责任——基于欧盟《人工智能法案》与中国立法实践的分析

作者：陈姗姗，华南师范大学教育信息技术学院 19 级教育技术学博士研究生。

来源：《人工智能法评论》第一期

摘  要：随着人工智能技术的迅猛发展，其在社会、经济及法律领域带来的影响日益凸显，尤其在法律责任方面呈现多重复杂性。法律体系面临如何对AI行为定责、保障个人隐私和数据安全等一系列挑战。本研究通过比较分析欧盟与中国现行及在议的人工智能立法，探讨两大经济体如何在鼓励技术创新的同时，建立健全的法律责任框架。特别关注欧盟《人工智能法案》对高风险AI系统的规范以及中国在《人工智能法（学者建议稿）》中提出的法律责任条款。研究结果将为如何在全球范围内平衡技术创新与法律责任的制度设计提供理论支持和政策建议。

关键词：人工智能；法律责任；欧盟《人工智能法案》；中国立法；监管框架

    人工智能(AI)技术正迅速改变我们的世界，其应用范围从基础研究到工业生产，再到消费者服务，几乎无所不包。随着这些技术的广泛应用，它们所引发的法律和伦理问题也日益凸显，尤其是在责任归属、数据保护、监督和透明度等方面。全球法律体系正面临前所未有的挑战，需要找到有效的方法来解决由人工智能带来的责任判定和权利保护问题。

    在责任归属方面，当人工智能系统造成损害时，如何确定责任主体成为一个复杂的问题。传统的法律责任框架难以直接适用于人工智能系统，因为这些系统具有一定程度的自主性和不可预测性。例如，在自动驾驶汽车发生事故的情况下，应当由车辆制造商、软件开发者还是车主承担责任？这些问题亟需法律界给出明确答案。

    数据保护和隐私问题同样引发了广泛关注。人工智能系统的运行依赖于大量数据，其中可能包含敏感的个人信息。如何在推动人工智能技术发展的同时，有效保护个人隐私权，成为各国立法者面临的共同挑战。此外，人工智能算法的不透明性和复杂性也为法律追责带来了困难，如何确保人工智能决策过程的透明度和可解释性，是构建人工智能法律责任体系必

须考虑的重要因素。

    在这一背景下，欧盟和中国作为世界上重要的经济体和技术强国，其在人工智能领域的立法和监管实践备受关注。欧盟于 2024 年通过了《人工智能法案》，这是全球首个综合性的人工智能立法，旨在通过全面、符合人类伦理的方式监管人工智能，确保人工智能技术的安全性、透明度和公平性。中国在此方面也不甘落后，2021 年通过了《个人信息保护法》，并在随后出台了一系列针对人工智能的法律法规，如《生成式人工智能服务管理暂行办法》。这些立法和政策反映了各自的技术发展策略和法律监管模式。

（二）研究问题和目标

    鉴于人工智能技术的跨国界性质及其对全球经济社会的深远影响，本研究聚焦于两个核心问题：

    1.欧盟和中国在人工智能法律责任方面的立法存在哪些异同？

    2.如何借鉴欧盟经验，完善中国的人工智能法律责任体系？

    基于这些问题，本研究设定了以下目标：

    1.比较分析欧盟《人工智能法案》与中国相关立法实践，特别是《人工智能法（学者建议稿）》中的法律责任条款，深入探讨两种法律体系在处理人工智能法律责任问题上的方法和策略。

    2.识别两种法律体系在应对人工智能技术挑战时的优势和不足，特别是在责任归属、数据保护和算法透明度等方面。

    3.基于比较研究的结果，为完善中国人工智能法律责任体系提供具体的政策建议，以期在促进技术创新和保护公民权益之间取得平衡。

（三）研究方法

    为实现上述研究目标，本研究采用以下方法：

    1.文献分析法：系统回顾和分析相关法律文件、学术文献和政策报告，为比较研究奠定理论基础。

    2.比较研究法：对比欧盟和中国的AI法律责任立法框架和实践，识别其异同点及各自特色。

    3.案例分析法：选取典型人工智能应用场景（如自动驾驶、人工智能技术用于医疗等），分析不同法律框架下的责任归属问题，以具体案例阐释法律适用的差异。

    通过上述研究，本研究希望为国际社会在平衡技术创新与法律责任方面提供理论支持和政策建议，从而推动人工智能技术的安全、透明和公平应用。

    关于人工智能技术与法律责任的研究已经取得了一定的进展，尤其是在欧盟和中国的相关立法方面。欧盟于2024年通过了全球首个综合性的人工智能立法——《人工智能法案》。该法案旨在通过全面、符合人类伦理的方式监管人工智能，确保人工智能技术的安全性、透明度和公平性。法案的制定背景主要包括人工智能技术的发展对社会伦理和法律规范的挑战，以及公众对人工智能技术信任的需求。该法案设立了人工智能系统的安全性、透明度、可追溯性、公平性等多项评估标准。

    在中国，相关研究也在逐步深入。中国在2021年通过了《个人信息保护法》，并在此后陆续出台了一系列针对人工智能的法律法规，如《生成式人工智能服务管理暂行办法》。这些法规的出台，标志着中国在人工智能技术的法律治理方面取得了重要进展，尤其是在保护个人隐私和数据安全方面。与欧盟相比，中国的立法实践更为关注具体应用场景下的法律适用和治理细则。

（二）理论框架

    法律责任理论和风险管理模型是研究人工智能技术与法律责任的重要理论基础。法律责任理论主要关注在法律体系内，主体在其行为引发的法律后果中所应承担的责任。这一理论框架包括了侵权责任、合同责任和行政责任等多种责任形式。

    风险管理模型则侧重于识别、评估和控制潜在风险。在人工智能技术领域，风险管理模型需要考虑人工智能系统可能带来的各种风险，包括技术风险、伦理风险和法律风险等。欧盟《人工智能法案》通过设置风险分级机制，将人工智能系统分为低风险、中风险和高风险类别，分别采取不同的监管措施。这种风险管理的思路在法律适用中体现为对不同风险等级的人工智能技术采取差异化的监管策略，从而有效地控制和减少潜在风险。

（三）研究缺口

    尽管现有研究在人工智能技术与法律责任的探讨中取得了一些进展，但仍存在明显的不足。首先，目前的研究多集中在单一国家或地区的立法和实践，缺乏系统的比较分析。欧盟和中国在人工智能法律治理方面的探索各具特色，但针对这两者之间的比较研究仍显不足。例如，欧盟注重通过立法确保人工智能技术的透明度和可追溯性，而中国则更关注在具体应用场景中的法律适用和治理细则。

    其次，现有研究对人工智能技术快速发展的动态监管机制关注不够。人工智能技术的快速发展要求法律法规能够及时更新和调整，以适应新技术带来的挑战和风险。然而，目前的法律体系往往存在滞后性，难以及时应对人工智能技术的快速变化。

    最后，尽管已有一些研究探讨了人工智能技术在特定领域（如医疗、金融等）的法律责任问题，但对于跨领域、跨国界的法律责任问题研究仍显不足。随着人工智能技术的广泛应用，不同领域和国家之间的法律协调和合作显得尤为重要。

（一）欧盟立法

    欧盟《人工智能法案》在人工智能技术法律责任方面做出了系统性的规定，体现了其前瞻性和规范性：

    1.风险分级与责任划分

    该法案根据人工智能系统的风险程度将其分为不可接受风险、高风险、有限风险和最小风险四个等级，并针对不同风险等级规定了相应的法律责任。

    对于高风险人工智能系统，法案要求提供者承担主要法律责任，包括建立风险管理系统、确保高质量的数据集、保持技术文档和记录、确保透明度和向用户提供信息、确保人类监督等。此外，进口商、分销商和用户也需要承担相应的法律责任。

    2.合规义务与法律责任

    法案规定了高风险人工智能系统提供者的一系列合规义务，如质量管理系统、技术文档、记录保存、透明度和信息提供、人类监督、准确性和网络安全等。违反这些义务将面临相应的法律责任。

    3.后市场监督与责任追究

    法案要求高风险人工智能系统的提供者建立后市场监测系统，对投放市场或投入使用的系统进行监测。一旦发现不符合要求，提供者有义务采取必要的纠正措施，否则将承担相应的法律责任。

    4.处罚制度

    欧盟的法案建立了一套严格的处罚制度。对于违反禁止性规定的，最高可处以3000万欧元或全球年营业额7%的罚款；对于其他违规行为，最高可处以1500万欧元或全球年营业额3%的罚款。这体现了欧盟对人工智能技术法律责任的重视。

    5.责任主体的扩展

    除了提供者外，法案还将进口商、分销商、用户等纳入责任主体范围，要求他们在各自环节承担相应的法律责任，构建了一个全面的责任体系。

    6.追溯与可解释性要求

    法案要求高风险人工智能系统具备足够的透明度和可追溯性，以便在出现问题时能够追究相关责任。这包括保存记录、提供技术文档等要求。

    总的来说，欧盟《人工智能法案》通过风险分级管理、明确合规义务、加强后市场监管、设置严格处罚等方式，构建了一个全面而严格的人工智能技术法律责任体系，为人工智能技术的健康发展提供了法律保障。这种做法既体现了对创新的支持，又强调了对风险的有效管控，值得其他国家和地区借鉴。

（二）中国的立法

    中国在人工智能法律制定方面采取了全面而系统的方法。《人工智能法（学者建议稿）》包含了九章内容，涵盖了总则、发展与促进、使用者权益保护、开发者与提供者义务规范、监督管理、特殊应用场景、国际合作、法律责任等方面。这个建议稿体现了中国在推动人工智能创新发展与防范风险之间寻求平衡的努力。在“人工智能技术的法律责任”这一核心问题上，中国的立法呈现出以下特点：

    1.多元责任主体

    《人工智能法（学者建议稿）》明确了人工智能开发者、提供者和使用者三类主体的法律责任。第85条规定了提供者的归责原则，第86条规定了使用者的归责原则。这种多元责任体系反映了人工智能技术应用的复杂性，有利于在实践中更准确地界定责任。

    2.差异化责任标准

    对不同情况下的责任标准，《人工智能法（学者建议稿）》做了区分。对于一般的人工智能产品和服务，采用过错责任原则；而对于关键人工智能，则采用推定过错责任原则。这种差异化的责任标准体现了对高风险人工智能的特殊关注。

    3.惩罚性赔偿制度

    《人工智能法（学者建议稿）》第89条引入了惩罚性赔偿责任，针对明知人工智能产品和服务存在重大安全风险而不采取必要措施的情况。这一规定体现了立法者对人工智能安全的高度重视，有利于促使相关主体更加谨慎地履行安全保障义务。通过设置惩罚性赔偿，立法者旨在形成强有力的法律威慑，促使人工智能开发者和提供者更加重视产品和服务的安全性。这一制度也为司法实践提供了更大的裁量空间，使得法院能够根据具体案情对恶意违法行为进行更为严厉的惩处。

    4.基础模型的法律责任

    第90条专门规定了基础模型的法律责任，明确了基础模型提供者在特定情况下的连带责任。这一规定反映了立法者对人工智能技术发展新趋势的关注，有利于规范基础模型的开发和使用。随着大型语言模型等基础模型的广泛应用，这一条款的设立填补了法律空白，为处理基础模型相关纠纷提供了明确的法律依据。

    5.保险责任机制

    《人工智能法（学者建议稿）》鼓励人工智能提供者和使用者投保，并在第91条规定了保险人的赔偿责任。这种机制有利于分散风险，保护被侵权人的权益。通过保险，可以将人工智能技术的风险在社会范围内进行分散，既降低了个别主体承担巨额赔偿的压力，又为潜在受害者提供了更可靠的赔偿保障。

    6.公益诉讼制度

    《人工智能法（学者建议稿）》引入了公益诉讼制度（第92条），允许检察机关、消费者组织等提起诉讼，这有利于保护公共利益和众多个人的权益。这一制度的设立体现了立法者对人工智能可能带来的广泛社会影响的认识。通过赋予特定主体提起公益诉讼的权利，可以有效应对人工智能可能造成的群体性、大规模侵权问题。这不仅增强了对公众利益的法律保护，也为监督人工智能行业发展提供了一个重要途径。公益诉讼制度的引入，可能会促使人工智能开发者和提供者更加注重其产品和服务对公共利益的影响，从而在技术发展与社会责任之间取得更好的平衡。

    7.合规免责条款

    《人工智能法（学者建议稿）》还规定了合规免责条款（第93条），鼓励相关主体建立风险合规制度。这一规定体现了立法者对企业自治的尊重，有利于促进企业主动履行社会责任。这一创新性条款反映了中国立法者在人工智能监管方面的前瞻性思维，体现了“鼓励创新、包容审慎”的监管理念。

    总的来说，中国的人工智能法律责任制度呈现出全面性、差异化和灵活性的特点。它既考虑到了人工智能技术的特殊性，又借鉴了传统法律责任制度的有益经验。这种立法方式有利于在促进人工智能技术创新和保护公众利益之间取得平衡，为人工智能技术的健康发展提供了法律保障。

（三）比较分析

    欧盟《人工智能法案》与中国《人工智能法（学者建议稿）》在人工智能法律责任方面呈现出既有共性又有差异的特点。通过对两者的深入比较，我们可以更好地理解不同法域对人工智能法律责任的认知和规制方式。

    在欧盟《人工智能法案》与中国《人工智能法（学者建议稿）》的法律责任规定方面，两者虽有共同点，但也展现出一定的差异。共同点包括两者都采用了风险分级管理的方法，对高风险AI系统施加更严格的监管要求，以及都明确了AI系统开发者、提供者和使用者的法律责任。然而，差异也非常明显。欧盟的法案更倾向于通过细致的四级风险分类（不可接受风险、高风险、有限风险和最小风险）和具体的合规要求来管理风险，而中国的策略则是在强调"包容审慎"监管理念的同时，通过全生命周期的管理来控制风险。此外，欧盟在法律文本中更注重个人数据保护和隐私权益，采用了更为严格的责任标准，而中国则更多强调技术的可控性和安全性，引入了差异化的责任标准，并创新性地提出了基础模型责任、保险责任机制和公益诉讼等特色制度，见表1。这些差异反映了两个法域在面对人工智能技术时的独特考量和法律传统。

（四）实践的比较

    1.自动驾驶汽车事故的法律反应

    在法律框架和实际应用方面，欧盟和中国在处理人工智能法律责任上采取了不同的策略。为了清晰地展示这些差异，本研究提供了一个详细的对比分析表，展示了不同国家在处理自动驾驶汽车事故时的法律反应。表格包括责任归属、监管策略和法律适应性的对比，见表2，旨在提供一个清晰的视角，帮助理解不同法律体系如何应对类似的技术挑战。

    该表格通过对欧盟和中国在自动驾驶汽车事故这一具体应用场景下的法律做法进行对比，揭示了两者在处理人工智能带来的法律责任问题上的不同策略和适应性。通过这种对比，可以深入了解各自法律体系的优势和待改进之处，为制定或优化相关法律提供参考。此外，这种对比也能帮助政策制定者和法律实践者更好地预测和准备应对未来可能出现的类似挑战。

    2.扩展应用领域的分析

    在人工智能法律领域的研究中，除了自动驾驶汽车，其他关键的应用场景如面部识别技术、医疗人工智能及算法推荐系统也凸显了法律适应性的重要性。这些技术的广泛应用不仅带来了巨大的社会经济效益，同时也引发了一系列法律和伦理问题。为了更全面地理解欧盟与中国在人工智能法律监管方面的异同，有必要对这些关键应用场景进行深入比较（见表3）。

    在面部识别技术的应用和监管上，各国展示了显著的差异。欧盟通过其严格的数据保护法规（如GDPR）限制了面部识别技术的广泛使用，尤其是在监控和公共安全领域，强调保护个人隐私。相比之下，中国则广泛应用这一技术于公共安全等领域，尽管有《个人信息保护法》等规定，但在实践中更注重安全和控制。

    医疗人工智能领域的法规在不同国家之间也显示出多样性。欧盟的《医疗器械法规》（MDR）确保了医疗AI应用的安全性和有效性，设定了严格的市场准入标准。而中国在医疗AI领域快速发展，相关的法规和标准也在不断完善中，政策倾向于支持技术创新与应用推广。

    算法推荐系统的监管在不同法域内展现了各自的侧重点。欧盟的《数字服务法案》（DSA）增强了算法透明度和用户控制权，旨在保护消费者的权益。中国则通过《互联网信息服务算法推荐管理规定》强调算法的透明度和公正性，尝试防止“算法歧视”。

    通过对比分析，我们可以清晰地看到两个法域在隐私保护、数据安全、技术监管以及创新支持等方面的法律框架和策略差异。这种比较有助于理解各自立法的特点和潜在的全球协调挑战，为未来的国际合作和法律制定提供了重要的视角和参考。

（一）法律框架设计

    欧盟的《人工智能法案》代表了对人工智能技术监管的先进立法尝试，特别在法律责任条款方面展示了其前瞻性和规范性。中国在法律框架设计方面，建议借鉴欧盟《人工智能法案》的成功经验，建立适应中国国情的风险分级管理制度。具体而言，应针对不同风险等级的人工智能系统实施分级管理，对高风险人工智能应用，如医疗诊断、自动驾驶等，实施更加严格的监管措施。这些措施应包括强制性的安全评估、透明度要求以及持续监控机制，确保人工智能技术的安全可控。

    此外，建议加快制定专门的人工智能法律，如《中国人工智能法》，明确人工智能技术在研发、应用和监管各个环节的法律规范。该法律应涵盖人工智能系统的安全标准、数据保护要求、算法透明度以及法律责任分配等核心问题，以确保法律制度能够与时俱进，适应人工智能技术的快速发展。

    同时，建议修订和完善现有的相关法律法规，如《民法典》、《产品质量法》等，增加针对人工智能系统的特殊条款，以应对人工智能技术带来的新型法律挑战。这些配套法规的完善，将为人工智能技术的应用提供更加全面的法律保障。

（二）责任归属机制

    中国在人工智能法律制定方面采取了实验和逐步完善的策略。《人工智能法（学者建议稿）》中，法律责任的规定反映了对稳定性和可控性的重视。在责任归属机制方面，建议明确人工智能系统开发者、运营者、使用者等各方的法律责任，尤其是在高风险人工智能应用中，需明确各主体的责任边界。对于复杂的人工智能系统，可以考虑引入“连带责任”机制，以确保受害方能够得到有效赔偿。

（三）监管策略优化能力

    在监管策略方面，建议建立动态监管机制，适应人工智能技术的快速发展。法律和监管政策应当定期评估和更新，确保其能够及时应对人工智能技术的变革。同时，建议强化人工智能系统的算法透明度和可解释性，要求高风险人工智能系统提供算法的基本原理说明和决策过程的可解释性报告，以增强系统的透明度，便于责任追究和有效监管。

    此外，建议推动行业自律与政府监管相结合，鼓励人工智能行业制定自律规范，同时加强政府监管力度。通过建立政府、企业和公众多方参与的人工智能治理机制，可以有效平衡技术创新与监管需求。

最后，建议加强国际合作，积极参与国际人工智能治理对话，推动建立国际人工智能伦理和法律标准。在保护国家利益的同时，促进跨境数据流动和人工智能技术合作，以应对人工智能技术的全球性挑战。

（四）建设与公众参与

    在能力建设方面，建议加强人工智能法律人才的培养。在法学教育中增加人工智能相关课程，培养既懂技术又懂法律的复合型人才，为人工智能法律实践和理论研究提供有力的支持。同时，也在教育技术学人才的培养上增加相关法律课程，使其了解人工智能应用在教育领域可能涉及的法律问题，为培养下一代在教育方向的技术型人才奠定扎实的法律意识。这种跨学科培养模式可以促进法律与技术的融合，培养出能够在人工智能教育应用中把握法律边界的专业人才。

    此外，建议在高校计算机科学、数据科学等相关专业中加入人工智能伦理和法律课程，提高技术开发人员的法律意识和伦理素养。可以通过案例教学、模拟法庭等实践性教学方法，增强当代大学生对人工智能法律问题的理解和应对能力。

    建议通过教育和宣传，提高公众对人工智能技术的理解和风险意识，增强公众参与人工智能治理的能力。可以通过开设公开课、举办科普讲座、制作短视频等多种形式，普及人工智能基础知识和相关法律常识。同时，可以建立公众参与机制，如举办公众咨询会、设立在线反馈平台等，鼓励公众对人工智能政策和法规提出意见和建议，从而实现人工智能治理的多元参与。

    最后，建议政府、企业和高校合作建立人工智能法律研究中心或智库，开展前沿性、应用性研究，为政策制定和法律完善提供智力支持。这些机构可以定期发布人工智能法律发展报告，组织国际交流活动，推动中国在全球人工智能法律治理中发挥更大作用。

（一）结论与展望

    本研究通过对欧盟《人工智能法案》与中国人工智能法律责任相关立法的比较分析，揭示了两大法律体系在应对人工智能技术挑战时的异同。研究发现，尽管欧盟和中国在立法理念和具体措施上存在差异，但都认识到建立全面的人工智能法律责任框架的重要性。欧盟在立法中注重系统的风险分级管理和严格的合规要求，特别关注个人数据保护和算法透明度。而中国的立法实践则更为注重推动技术创新和维护国家安全，同时通过全生命周期管理来控制风险。这种差异反映了两个地区在社会文化背景和发展阶段上的不同。

    研究结果表明，构建有效的人工智能法律责任体系需要综合考虑技术特性、社会需求、伦理考量以及国际协调。这一发现不仅为中国的人工智能法律责任体系建设提供了借鉴，也为全球范围内的人工智能治理提供了重要的参考价值。

（二）研究问题关系

    本研究直接回应了最初提出的两个核心问题：首先，关于欧盟和中国在人工智能法律责任立法方面的异同，研究通过详细的比较分析，清晰地展示了两者在法律目标、风险管理、责任归属等方面的差异和共同点。这为理解不同法律体系如何应对人工智能挑战提供了深入的洞察。其次，关于如何借鉴欧盟经验完善中国的人工智能法律责任体系，研究提出了一系列具体建议，涵盖了法律框架设计、责任归属机制、监管策略优化以及能力建设与公众参与等多个方面。这些建议不仅考虑了欧盟的先进经验，也充分结合了中国的具体国情。

    研究结果表明，尽管全球各地在应对人工智能法律挑战时采取了不同的方法，但都面临如何平衡技术创新与风险控制、如何界定和分配法律责任等共同问题。这一发现进一步强调了国际合作和经验交流在人工智能治理中的重要性。

（三）局限性

    尽管本研究提供了有价值的见解，但仍存在一些局限性。首先，法律文本的解释具有主观性，特别是在跨文化比较的情况下，对法律条文的翻译和解读可能因文化和背景的不同而有所偏差。其次，由于大多数人工智能法律仍处于早期阶段，本研究难以全面评估这些法律在实际应用中的效果和挑战。最后，本研究主要聚焦于欧盟和中国的立法实践，可能无法完全代表全球人工智能法律发展的全貌。此外，人工智能技术的快速发展可能使得某些研究发现很快面临更新的需要。

（四）未来研究方向

    基于本研究的发现和局限性，未来研究可以在以下方向进行深入探索：

    第一，扩大研究范围，将研究扩展到其他主要国家和地区，如美国和日本等，以获得更全面的全球视角。

    第二，开展长期跟踪研究，对已实施的人工智能法律进行长期跟踪，评估其实际效果和可能的调整需求。

    第三，加强跨学科研究，结合法学、计算机科学和伦理学等学科的研究成果，以更全面地理解和应对人工智能带来的复杂挑战。

    总之，本研究为理解和完善人工智能法律责任体系提供了重要的理论基础和实践建议。随着技术的不断发展和社会的深入讨论，人工智能法律领域将继续面临新的挑战和机遇。未来的研究需要保持开放和灵活的态度，不断更新和完善我们对这一领域的认知，以确保法律能够有效地引导和规范人工智能技术的发展，最终实现技术进步与社会公平的和谐统一。

文字/图片丨陈珊珊

排版丨王俞蕊

审核丨陈亮

稿件来源丨《人工智能法评论》第一期

封面 | 《人工智能法评论》编辑