点击蓝字关注
了解更多精彩
（点击查看思维导图）
GB/T 7714-2015
CITE
王杰.生成式人工智能服务输出侵犯版权内容的救济研究[J].科技与出版，2024（7）：59-69.
摘 要
生成式人工智能可能因“记忆”输出与训练素材构成实质性相似的内容，从而产生侵犯版权的风险。服务平台应当对此承担何种责任往往引发争议。从角色定位角度，服务平台应当被界定为网络技术服务提供者，就侵犯版权适用过错责任。当前学者主张的“现有技术水平” 标准与安全保障义务标准存在证成逻辑与义务内容上的缺陷，“通知—删除规则”在生成式人工智能场景下亦面临适用障碍。根据输出侵权内容的风险和成因，侵权救济应落脚于生成式人工智能的商业利用端，以实现版权人合法权益的保护，并推动侵害版权负外部性的内部化。
关键词
生成式人工智能；版权侵权；归责原则；注意义务
随着人工智能技术的发展，其应用不断深入人类社会的生产、生活，已是不可逆转的趋势。据德国劳工部长海尔（Hubertus Heil）预测，最迟到2035年，世界上将没有与人工智能应用无关的工作。[1] 技术发展带来的收益总是与风险相伴。当人工智能受到极致追捧之时，其可能导致的侵权风险也日益引发关注。据统计，截至2024年3月 11日，美国一共发生了21件针对生成式人工智能的版权诉讼，全部涉及大模型训练中复制、传播作品的行为，其中2件诉讼同时还主张生成内容侵犯作品的复制权和演绎权。[2] 在我国，广州互联网法院也于今年2月做出“全球范围内首例生成式AI 服务侵害他人著作权的生效判决”。[3] 人工智能作为一项快速迭代发展的技术，其开发者须对技术应用产生的侵害后果承担何种责任不仅关系到相关主体合法权益的维护，也会对技术发展产生深远影响。从当前的诉讼来看，围绕生成式人工智能服务平台的版权责任争议体现在两个方面：其一，输入端爬取复制巨量作品作为训练资料；其二，输出端因“记忆”生成与先前作品构成实质性相似的内容。对于前一争议，学者抑或在合理使用的框架内讨论 [4]，抑或主张设定新的法定许可。[5] 本文的研究聚焦于后者，即当生成内容构成对在先作品的复制或演绎时，应当如何认定人工智能平台的版权责任。为了回答该问题，本文首先界定生成式人工智能服务平台在版权制度中的角色定位，指出其应当就输出侵犯版权的内容承担过错责任；接着分析当前学界和实务界提出的几种过错判定标准，反思其不足；最后从生成式人工智能输出侵权内容的风险和成因等两个角度指出，侵权救济应落脚于生成式人工智能的商业利用端。这既能较好地保护版权人的利益，也有助于实现侵权负外部性的内部化。
当生成式人工智能服务平台根据用户提示词生成侵权内容时，对平台应采何种归责原则，当前主要存在过错责任与无过错责任两种观点。王利明教授认为，出于保障人工智能产业发展的需要，过错责任是处理生成式人工智能侵权的一般归责原则，仅在侵害个人信息权益的特殊情形适用过错推定。[6] 周学峰教授则主张整体上采用过错推定的归责原则以解决受害人举证困难的问题。[7] 徐伟教授认为，即使采用过错推定，依然无法有效解决过错证明的难题，应将生成式人工智能侵权界定为一种新型的危险责任类型，适用无过错责任。[8] 在版权领域，对技术开发应用者（通常也是内容的传播者）采何种归责原则曾长期存在争议，最终形成内容服务提供者与技术服务提供者的分类。若传播的内容侵犯版权，前者构成直接侵权，适用严格责任；而对于后者，则适用过错责任判定是否构成间接侵权。因此，在版权侵权语境下，对生成式人工智能服务平台应采何种归责原则，首先需判定其在侵权内容传播中的角色定位。
网络服务提供者（internet service providers）诞生之前，在版权法层面为作品传播提供技术渠道的主体一般视作内容服务提供者。如提供广播技术的广播组织性质上为内容提供者，须对传播的侵权内容承担严格责任。尽管有学者指出，知识产权侵权并非民法规制的特殊侵权行为，应采过错责任的归责原则 [9]，我国法院也一般依据《著作权法》第59条要求传播者就版权侵权承担过错推定责任。但在实践中，除了侵权作品的出版者①、销售者和出租者之外，其他传播者很难证明其已尽到注意义务，故而在责任承担效果上几乎与严格责任无异。[10] 自20世纪90年代网络服务提供者登上历史舞台后，技术服务提供者逐渐从内容服务提供者群体剥离。在1993年发生的playboy案中，美国法院依然将BBS运营者认定为类似传统出版商的内容服务提供者，须对用户上传的内容承担严格责任。②但在两年后的Netcom案中，美国法院则认为BBS运营者只是根据用户的指令上传、存储内容，并未直接从事版权法所控制的作品利用行为，因此不应如内容服务提供者那般对侵权内容的传播承担严格责任。③法院进一步指出，采纳一种极易导致不计其数的当事方承担责任的规则不合理，因为这些当事方仅仅建立或提供了发挥网络功能所必需的系统，并认为应当为第三方所作的纯粹被动的行为提供一种（侵权）例外。③Netcome案中法院的判决思路深刻影响美国《新千年数字版权法案》第512条（“避风港”条款）的制定④，而美国“避风港”条款又成为欧盟与中国相关条款构建的重要参照。自此，由于网络技术服务提供者的加入，版权领域的利益协调从版权人、传播者与社会公众间的“三国演义”变为四方博弈。区别对待网络技术服务提供者主要基于教义学和法政策两个层面的理由。在教义学层面，网络技术服务提供者仅是根据用户的指令传输内容，扮演着传播中介的角色，构成直接侵权的应当是用户而非传播中介。⑤在法政策层面，网络在社会、经济、文化等方面发挥日益重要的作用，须防止给网络技术服务提供者施加过重的负担抑制网络发展；且历史已经充分证明新技术带来的尚未预见的利益，或者说“溢出”效益，常常超出新技术带来的暂时收益。[11] 区别对待在规则层面体现为“避风港”条款的引入，其核心在于网络技术服务提供者不承担普遍版权审查义务，故而不能仅因传播侵权内容便要求其承担侵权责任，还需检视其对侵权内容的传播和扩散是否存在过错。
生成式人工智能服务平台应归入哪种类别存在界定上的难题，因为从技术特征角度，其与典型的网络内容服务提供者、网络技术服务提供者既有共同点但也存在区别。首先，生成式人工智能根据用户输入的提示词输出相关内容，与数据库根据用户检索输出相关内容类似，符合内容服务提供者的特征。尽管如此，与数据库不同，生成式人工智能输出的内容并非事先存储于平台的服务器中，而是根据用户的指示“即兴创作”。因此，若非用户的介入，则不存在侵权。这点又跟网络技术服务提供者根据用户指令存储、传播内容有相似之处，尽管内容并非由用户提供。鉴于生成式人工智能服务平台的独特技术特征，有学者主张其构成一种新型的网络技术服务提供者。[12] 笔者认同此观点，因为上述“优待”网络技术服务提供者的两个理由同样适用于生成式人工智能服务平台。其一，在教义学层面，虽然侵权内容看似由生成式人工智能平台直接提供，但由于大模型算法的复杂性，服务平台无法控制大模型运算的结果，而缺乏控制的内容生成不应视为直接提供。其二，在法政策层面，生成式人工智能属于快速迭代中的新兴技术，对其施加严格责任会导致技术开发成本过高，从而阻碍技术发展。[13] 与之相对，过错责任能较好地兼容政策考量，将保障技术发展融入过错判定。近现代过失标准的客观化意味着过失已不再“是对个人的道德责难，而是风险分配的工具或手段”[14]272。这为政策目的融入过失的判断提供了空间。Prosser 教授即指出，判断过失的注意义务本身并非神圣的道德信条，而不过是一套通过政策综合考量确定原告受到保护的说辞。[15] 该观点得到美国法院的广泛认同，Friedman法官甚至据此发展出了衡量注意义务范围的八大因素，并称之为“精致的政策判断”（delicate policy judgements）。⑥在大陆法系，Josef Esser教授也指出，过错责任的真正优势并非在于道德，而是经济政治的动机。[14]92 其次，过错责任在适用中具有较大的制度弹性，便于法院根据技术进步与产业发展调适生成式人工智能服务平台应承担的版权注意义务。以网络存储空间服务提供者的侵权判定为例，法院根据商业模式的演进、过滤技术的发展与版权保护的需求等不断调整服务提供者的注意义务，甚至采用过错推定来减轻版权人的举证难度，较好地维护技术进步与版权保护间的平衡。
关于如何认定生成式人工智能服务平台的过错，学界亦是众说纷纭。有学者主张借鉴产品责任中的“现有技术抗辩”来判定生成式人工智能服务平台是否尽到注意义务。[16] 有学者认为，生成式人工智能服务平台兼具内容生产者与平台管理者的双重角色，对数据、模型、模拟训练、生成内容等负有审核的安全保障义务，若违反该义务造成他人人格权、著作权的损害，需承担侵权责任。[17] 还有学者建议，通过立法对人工智能的 “研发、设计、运行、测试、监测和维护”进行具体的管制，若违反这些管制性规定，则推定人工智能服务平台对损害的发生有过错。[7]126 值得注意的是，由于生成式人工智能服务平台被界定为新型网络技术服务提供者，不少学者主张引入改进的“避风港”条款与“通知—删除规则”，从而避免给技术开发者施加过重的负担，为人工智能技术的发展提供制度保障。[7，11，15] 在生成式人工智能侵权第一案中，法院以《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》中的公法义务为依据，要求被告承担设立投诉举报机制、潜在风险提示和显著标识等三项义务，并依此判定生成式人工智能服务平台是否要承担版权侵权责任。[18]
2.1 “现有技术水平”标准之否定
2.2 安全保障义务标准之分析
2.3 “通知—删除规则”之障碍
注意义务的高低应当与行为造成的风险相对应。[24] 生成式人工智能的应用场景非常广泛，不同应用场景存在不同程度的权益损害风险，因而应当区分应用场景来设定生成式人工智能服务平台的注意义务。欧盟《人工智能法案》便对人工智能设定风险级别，包括不可接受的风险（unacceptable risks）、高风险（high risks）、有限风险（limited risks）和低风险（low risks），并设定了不同的义务内容。⑰生成式人工智能输出侵犯版权内容的风险主要体现为“记忆”（memorization），即记住了训练中输入的某些作品。下文将对“记忆”的风险级别、成因进行分析，然后得出生成式人工智能侵犯版权的救济途径。
3.1 生成式人工智能的“记忆”风险
3.2 生成式人工智能的“记忆”成因
3.3 生成式人工智能的“记忆”救济
自OpenAI推出ChatGPT大语言模型后，大型网络公司纷纷推出自己的生成式人工智能服务。生成式人工智能在技术上的突飞猛进让版权人感到忧惧，进而在世界范围内引发系列版权诉讼。版权制度自诞生便持续面临技术进步的冲击，如何应对已逐步形成共识，即在保护版权人利益的同时保障技术开发的自由。就内容输出而言，生成式人工智能造成版权侵权的风险低、损害小，且侵权是根据技术要求对训练语料进行客观标注的附带不可控结果。因此，不应对生成式人工智能服务平台施加过重的版权注意义务。在生成式人工智能场景下，版权侵权的救济应聚焦于商业利用端，既能较好地保护版权人的合法权益，也能保障服务平台的技术开发自由，还有助于推进侵权负外部性的内部化，实现版权保护与技术发展之间的动态有机平衡。
注 释
（上滑查看）
① 与美国、澳大利亚、德国等国家不同，我国对出版者适用过错推定，且在司法实践中适用了较低的注意义务证明门槛。参见王迁. 网络环境中版权直接侵权的认定[J].东方法学,2009,（ 02）:15-16.
② Playboy Enterprises Inc. v. Frena, 839 F.Supp. 1552, at 1559（ M.D. Fla. 1993）. 需要注意的是，在美国版权法中，若某行为被认定为直接侵权，则侵权人的主观心理状态不影响侵权的成立，只是作为法官在确定赔偿数额的考虑因素。
③ Religious Technology Center v. Netcom On-line Communications Services, Inc. 907 F. Supp. 1361（ N.D.Cal. 1995）.
④ H.R. CONF. REP. NO. 105-796, at 72（ 1998）.
⑤美国版权法实践中区分直接侵权与间接侵权。虽然美国版权法并没有明确规定间接侵权，但美国法院依据《 美国版权法》 第116条规定所谓“许可权”来认定间接侵权，主要针对那些自身没有实施版权人的独占权但许可他人实施这些独占权的主体。在长期的司法实践中，美国法院在间接侵权的框架下发展出了帮助侵权和替代责任这两类侵权认定标准。See H.R. REP.NO. 94-1476, at 61（ 1976）. 后来直接侵权与间接侵权的区分经由王迁教授等学者引入国内，成为判定网络服务提供者侵权责任的主要依据。
⑥ Raymond v. Paradise Unified School Dist., 218 Cal. App. 2d 1, 8, 31 Cal. Rptr. 847, 851（ 1963）; Wright v. Arcade School Dist., 230 Cal. App. 2d 272, 278, 40 Cal.Rptr. 812, 815（ 1964）.
⑦ EU Artificial Intelligence Act, Article 14.
⑧ 杭州市互联网法院（ 2018） 浙0192民初7184号民事判决书；北京市第一中级人民法院（ 2014） 一中民五终字第0020号民事判决书。
⑨ 广州互联网法院（ 2024） 粤0192民初113号民事判决书。
⑩ EU Artificial Intelligence Act, Article 50.
⑪ 该规章的第7条要求生成式人工智能服务平台不得侵犯他人的知识产权，但该条针对的是内容输入的训练阶段，与本文讨论的内容输出阶段无关。
⑫ Digital Millennium Copyright Act, Sec. 512,（ a）.
⑬《 信息网络传播权保护条例》 第20条、21条。
⑭ 杭州市中级人民法院（ 2019） 浙01民终4268号。
⑮ H.R. REP. 105-551（ Ⅱ）, 52-53.
⑯ 由于这些“断网”行为会给相关方造成严重的损害，因此通常须经公权力的审查后方能为之。如，根据法国的“三振出局”法案，最终的断网决定需由法院作出；在英国，屏蔽海盗湾网站域名的禁令由法院做出；在我国，关闭以侵权网站的决定通常由执法机关做出。
⑰ 欧盟《 人工智能法案》 将不可接受的风险归为禁止性实践，并对高风险人工智能进行重点规制，而对于有限风险和低风险两种情况仅在前言部分的第53段予以界定。
⑱ Explanatory Memorandum of the ArtificialIntelligence Act, 5. 2. 3.
⑲ Sony Corp. of America v. Universal City Studios, Inc., 464 U.S. 417（ 1984）.
⑳ 一般认为，就过错判定而言，索尼规则比汉德公式对技术开发者更友好。See DiCola P, Sag M. An informationgathering approach to copyright policy[J]. Cardozo L.Rev., 2012, 34: 212.
参 考 文 献
（上滑查看）
[1] 沃尔夫冈·多伊普勒. 《欧盟人工智能法案》的背景、主要内容与评价：兼论该法案对劳动法的影响[J]. 王倩，译. 环球法律评论，2024，46（3）：6.
[2] Master List of lawsuits v. AI，ChatGPT，OpenAI， Microsoft，Meta，Midjourney & other AI cos[EB/OL]. （202312-27）[2024-06-11].
https://chatgptiseatingtheworld. c o m / 2 0 2 3 / 1 2 / 2 7 / m a s t e r - l i s t - o f - l a w s u i t s - v - a i chatgpt-openai-microsoft-meta-midjourney-other- ai-cos/.
[3] 王俊，冯恋阁. AI画出奥特曼：中国法院作出全球首例生成式AI服务侵犯著作权的生效判决[EB/OL]. （202402-26）[2024-06-11].
https://www.21jingji.com/ article/20240226/herald/133a6c2f9c0b045899e4dea10c5778eb. html.
[4] 徐小奔，杨依楠. 论人工智能深度学习中著作权的合理使用[J]. 交大法学，2019（3）：32-42.
[5] 曹博. 人工智能辅助生成内容的著作权法规制[J]. 比较法研究，2024（1）：88-90.
[6] 王利明. 生成式人工智能侵权的法律应对[J]. 中国应用法学，2023（5）：32-34.
[7] 周学峰. 生成式人工智能侵权责任探析[J]. 比较法研究，2023（4）：125.
[8] 徐伟. 生成式人工智能服务提供者侵权归责原则之辨[J]. 法制与社会发展，2024，30（3）：190-204.
[9] 吴汉东. 知识产权侵权诉讼中的过错责任推定与赔偿数额认定：以举证责任规则为视角[J]. 法学评论，2014，32（5）：126.
[10] 王迁. 网络环境中版权直接侵权的认定[J]. 东方法学，2009（2）：16.
[11] LEMLEY M A，REESE R A. Reducing digital copyright infringement without restricting innovation[J]. Standford Law Review，2004，56（6）：1387.
[12] 徐伟. 论生成式人工智能服务提供者的法律地位及其责任：以ChatGPT为例[J]. 法律科学（西北政法大学学报），2023，41（4）：74.
[13] European Commission. Liability for artificial intelligence and other emerging technologies[M]. Brussels：Publications Office，2019：27.
[14] 程啸. 侵权责任法[M]. 2版. 北京 ：法律出版社，2016：272，92，458-459.
[15] PROSSER W L. Handbook of the law of torts[M]. 4th ed. St. Paul，Minn. ：West Publishing Company， 2010：185.
[16] 王若冰. 论生成式人工智能侵权中服务提供者过错的认定：以“现有技术水平”为标准[J]. 比较法研究，2023（5）：20-33.
[17] 杨显滨. 生成式人工智能服务提供者间接侵权责任的承担与限制[J]. 法学家，2024（3）：50-52.
[18] 姚志伟. 人工智能生成物著作权侵权的认定及其防范：以全球首例生成式AI服务侵权判决为中心[J]. 地方立法研究，2024，9（3）：1-17.
[19] 刘文杰. 网络服务提供者的安全保障义务[J]. 中外法学，2012，24（2）：402-403.
[20] 刘文杰. 《电子商务法》“通知—删除”规则之检讨[J]. 北京航空航天大学学报（社会科学版），2019，32（6）：15-16.
[21] 冯刚. 云服务提供商版权责任之探析[EB/OL]. （2020-03-11）[2024-02-01].
http://bjzcfy.chinacourt.gov.cn/ article/detail/2020/03/id/4841717.shtml.
[22] WILLIAM S M. Will AI destroy the DMCA copyright compromise?[EB/OL]. （2024-02-14）[2024-05-31].
https://frostbrowntodd.com/will-ai-destroy-the-dmcacopyright-compromise/#_ftn6.
[23] MARCUS G，SOUTHEN R. Generative AI has a visual plagiarism problem[EB/OL]. （2024-01-06）[2024-0607].
https://spectrum.ieee.org/midjourney-copyright.
[24] 袁俊宇. 数字人民币运营机构安全保障义务的廓清
与实现[J]. 当代法学，2023，37（2）：57.
[25] SAG M. Copyright safety for generative AI[J]. Houston Law Review，2023，61（2）：326，311.
[26] 余成峰. 法律人工智能新范式：封闭与开放的二元兼容[J]. 中外法学，2024，36（3）：586-606.
[27] 徐英瑾. 人工智能哲学十五讲[M]. 北京：北京大学出版社，2021：18.
[28] 揭其涛，王奕诺. 玫瑰荆棘：生成式AI赋能数字出版内容生产的逻辑、机遇与隐忧[J]. 科技与出版，2024（4）：65.
[29] SOBEL BLW. Artificial Intelligence’s Fair Use Crisis[J]. COLUM. J. L. & ARTS，2017，41（1）：65.
[30] GINSBURG J C. Copyright and control over new technologies of dissemination[J]. Columbia Law Review，2001，101（7）：1613.
[31] HAGEN G R. Technological neutrality in canadian copyright law[M]. Geist M（ed.）. The Copyright Pentalogy. Ottawa ：University of Ottawa Press，2013：312.
[32] SAMUELSON P. Five challenges for regulating the global information society[M]//. Regulating the global information society. Brandon：Psychology Press， 2000：316.
[33] 王迁. 知识产权法教程[M]. 北京：人民大学出版社，2021：286.
[34] BHATTACHARJEE S，LERTWACHARA K，GOPAL R，et al. Impact of legal threats on online music sharing activity：an analysis of music industry legal actions[J]. Journal of Law and Economics，2006，49（1）：91.
[35] Introducing the microsoft copilot copyright commitment [EB/OL]. （2021-06-22） [2024-0610].
https://www.microsoft.com/en-us/licensing/news/ microsoft-copilot-copyright-commitment.
王 杰
上海交通大学凯原法学院
