法宝应用 | 推荐算法运用下的平台义务与责任

学术 2024-10-08 17:25 北京

⊙本文长约1.6万字，阅读需时42分钟

本文来源：北大法宝法学期刊库

《法律适用》2024年第7期

作者：宋建立

最高人民检察院知识产权检察办公室副主任，法学博士

编者按：大数据时代，专业的数据库是法律研究者使用的基本工具，是进行法律实证研究的重要支撑。通过对“北大法宝·法学期刊库”检索发现有2000余篇研究成果以 “北大法宝”数据库作为研究对象。那么，谁在用北大法宝做学术研究？我们将陆续推送利用“北大法宝”数据库进行实证研究的学术成果，以期为法学学术和实务研究提供参考借鉴，敬请期待。

欢迎广大法律同仁们登录“北大法宝”数据库www.pkulaw.com检索使用。

内容提要：推荐算法的运用使传统意义上平台作为网络服务者仅提供中立技术服务的观点受到挑战。推荐算法平台注意义务的设定以及判断平台是否积极采取了预防侵权的必要措施，应与算法推荐引发侵权可能性、平台信息管理能力等相匹配，必要措施的认定除考虑平台经营模式、技术水平、成本与获利等因素外，也应具有技术上和经济上的期待可能性，避免过高或不合理的注意义务超越平台的客观能力，影响平台正常经营和创新能力。尝试突破传统的避风港法则，提高平台的注意义务，确立新技术应用下平台“应知”的标准，以利益平衡为原则合理配置举证责任，合理判定平台侵权赔偿责任，才可能激发平台企业在法治轨道上公平竞争与健康发展的热情。

关键词：算法推荐算法算法治理平台责任注意义务

目次
问题的引出
一、推荐算法的基本原理与商业实践
二、推荐算法面临的问题及治理必要性
三、推荐算法治理的立法与司法实践
四、涉推荐算法平台责任纠纷裁判规则完善的思考

问题的引出

“全国首例算法推荐案”系北京爱奇艺科技有限公司（以下简称“爱奇艺公司”）诉北京字节跳动科技有限公司（以下简称“字节跳动公司”）侵害作品信息网络传播权纠纷案。该案中，爱奇艺公司诉称，字节跳动公司未经授权，在《延禧攻略》（以下简称“延剧”）热播期间，其运营的今日头条APP利用信息流推荐技术，将用户上传的截取自延剧的短视频向公众传播并推荐。爱奇艺公司认为，字节跳动公司在应知或明知侵权内容的情况下，未尽到合理注意义务，存在主观过错，侵害了自己对延剧享有的信息网络传播权。法院经审理认为，在用户上传短视频并点击发布所经历的“初审—冷启动—正常推荐—复审”全部流程中，字节跳动公司应不断纠偏、设计、监督并管理算法模型以及加入人工审查，以实现对短视频推荐范围的设置和优化，有效避免侵权短视频进入复审环节、大范围和长时间的传播。简言之，该判决认定，字节跳动公司作为内容平台提供者应不断改进算法推荐模型和加入人工审查以优化推荐范围，否则构成帮助侵权。最终，判决认为字节跳动公司的涉案行为构成帮助侵权，并判定其赔偿爱奇艺公司经济损失。

新近另一则案件，优酷信息技术（北京）有限公司（以下简称“优酷公司”）诉上海喜马拉雅科技有限公司（以下简称“喜马拉雅公司”）、喜大（上海）网络科技有限公司侵害作品信息网络传播权纠纷案，该案判决在论述当平台推荐内容涉嫌著作权侵权且存在提高侵权传播效率、扩大侵权传播范围的风险时，平台提供者是否因算法推荐技术的采用而应承担更高注意义务问题上认为，算法推荐区别于人工推荐，不能因算法推荐技术的使用而当然推定网络服务提供者信息管理能力的提高，进而要求对所有推荐内容主动采取防范侵权措施，亦不能因算法推荐内容涉及侵权，而当然推定网络服务提供者知悉该内容的存在，进而对该内容是否可能侵权作出判断。简言之，该判决认为，算法技术推荐不必然突破避风港原则，本案喜马拉雅公司虽然采用算法推荐技术进行个性化推送和通用榜单排序，但无证据显示，喜马拉雅公司将该技术使用于存在较高著作权侵权风险内容的推送，不能认定喜马拉雅公司未尽到与其信息管理能力相应的注意义务，最终判定其不构成帮助侵权。

“全国首例算法推荐案”的判决引发了对提供算法推荐服务的平台应承担何种注意义务及责任的广泛关注与探讨。但从上述两个案例的判决理由与结果看，司法实践对算法推荐服务平台注意义务及责任认定仍在规则统一的形成过程中。争议焦点主要集中在：推荐算法运用下的平台应否对产生的歧视与偏见等推荐结果负有更强的信息管理能力和更高的注意义务，如何科学设置推荐算法的合理运行边界和有效问责机制，在技术创新和权利维护之间实现良好平衡。

一、推荐算法的基本原理与商业实践

当前，我们正迎来人类发展的第四次浪潮，正处于从信息社会向人工智能社会的关键转型期，在这种转变中技术加速迭代带来的社会颠覆性变化，深刻地改变着人类生产生活，并对人类文明发展和社会进步产生广泛而深远影响。比如，高新技术带来便捷的同时也带来了新机遇，社交网络中的交流、搜索引擎中的查询、点评与导航服务中的位置信息等均以数字化形式被保留，这些数字化痕迹是现实社会的投影，为算法技术运用提供了坚实的数据基础。

面对数字社会的信息过载问题，用户很难从海量数据中获取对自己有益的内容与信息，企业亦无法有效管理和分析这些数据，无法为用户提供精准服务。为解决此问题，减少用户浏览大量无益数据而浪费时间与精力，以及有效提升企业服务用户的商业价值，算法便应用而生。比如推荐算法，算法通过找寻个体与群体特征相似来探索更多可能性，并通过预测和行为反馈检验和调整假设。其本质上是信息的过滤与匹配，是用户历史数据、推荐模型和用户交互行为循环交互的过程。也就是说，推荐算法系帮助用户发现有价值的信息并将其展现在感兴趣用户面前的过程，减少用户与信息生产者在市场中的匹配时间，从而实现用户与信息生产者的双赢。

基于用户历史行为数据的输入形式和推荐算法的设计机制，目前的推荐系统包括三类，即基于协同过滤的推荐算法、基于内容的推荐算法和混合推荐算法。

基于协同过滤的推荐算法系统又可以分为基于记忆的协同过滤算法（memory-based collaborative filtering, Memory-Based CF）和基于模型的协同过滤算法（model-based collaborative filtering, Model-Based CF）。基于记忆的协同过滤又可分为基于用户的协同过滤算法（user-based collaborative filtering, User-Based CF）和基于物品的协同过滤算法（item-based collaborative filtering, Item-Based CF）。基于用户的协同过滤算法主要利用评分数据来计算用户之间的相似性，根据相似性选择目标用户的邻居用户，通过邻居用户的评分信息预测目标用户对待预测物品的评分值。基于物品的协同过滤算法则是通过计算物品之间的相似性，对目标用户进行推荐；基于模型的协同过滤算法主要通过数据降维、抽象特征、概率统计等方法与机器学习模型相结合，通过建模，用已有的部分稀疏数据来预测空白物品和数据之间的协同过滤算法，通过计算物品之间的距离，然后以线性方式进行预测。

基于内容的推荐算法是应用最早的推荐算法，主要应用于信息检索和信息过滤，其主要通过分析用户过去喜欢的物品，为用户推荐和他过去喜欢的物品相似的物品，基本原理是将物品的属性分解为多个标签，分析目标用户评价过的物品所对应的行为信息如评论、点赞、收藏、加购物车、购买等，通过寻找出与过去喜欢相似的物品生成推荐表，其优点是用户之间具有独立性、新的物品可以立刻得到推荐，但也存在物品特征提取难、无法挖掘用户潜在兴趣、冷启动等问题。

混合推荐算法技术主要分为加权型、切换型、交叉型、特征组合型、瀑布型、特征增强型、元层次型等，该推荐算法通过多种算法结合，克服了单个算法的缺点，改进了推荐系统的性能，能够达到预期的效果。可见，混合推荐算法比单独基于内容或基于协同过滤算法能给用户更好的推荐。但一些研究表明，混合推荐技术还存在复杂程度高、适用性低等缺点与不足。

从商业应用场景看，算法推荐主要应用于电商、资讯、流媒体、社交媒体等注重内容分发的领域，上述领域主流的互联网平台几乎均在运用个性化推荐方法，电商平台通过对用户的浏览、搜索、购买等行为进行分析，可以向用户推荐符合其兴趣和需求的物品。同时，电商平台还可以通过算法推荐优化商品的排列顺序，提高用户浏览量和点击率。在社交媒体、流媒体服务、资讯领域，通过对用户的关注、点赞、评论等行为进行分析，平台可以向用户推荐符合其兴趣和需求的内容和用户。同时，平台还可以通过算法推荐优化内容的展示方式，提高用户浏览量和分享率，进而扩大平台的影响力，并产生相应的商业价值。

二、推荐算法面临的问题及治理必要性

当前社会正处于算法广泛应用的时代，掌握和运用算法技术并获取相应商业利益的平台，使得信息分发的效率和智能化达到了前所未有的程度，同时也令其卷入侵权风险的旋涡，引发各界对平台滥用算法权力的担忧，以及对算法黑箱、算法歧视与偏见、算法伦理、隐私保护、数据安全等问题的关注。具体到推荐算法领域，则涉及“信息茧房”、不良信息和侵权信息扩散等问题。实践中，推荐算法面临的问题主要有以下几个方面：

一是算法设计或实施不当可能产生与预期不符的结果。算法的设计和实施有可能无法实现设计者的预设目标，导致决策偏离预期甚至出现损害用户合法权益的情形。谷歌、斯坦福大学、加州伯克利大学和OpenAI研究机构的学者根据错误产生的阶段将算法模型设计和实施中的安全问题分为三类：1.设计者为算法定义了错误的目标函数。比如，设计者在设计目标函数时没有充分考虑运行环境的常识性限制条件，导致算法在执行任务时产生不当结果或不良影响；2.设计者定义了计算机成本非常高的目标函数，使得算法在训练和使用阶段无法完全按照目标函数执行，只能在运行时执行某种低计算成本的替代目标函数，从而无法达到预期的效果；3.选用的算法模型表达能力有限，不能完全表达实际情况，导致算法在实际使用时面对不同于训练阶段的全新情况产生错误的结果。

二是算法自有的偏见和歧视影响公平正义。人工智能算法已广泛应用于商业领域如个性化推荐、精准广告等，以及信用评估、信贷等金融领域和犯罪风险评估的司法领域，由于算法自有的不合理因素存在，可能产生具有歧视和偏见的决策结果。算法偏见或歧视不仅是技术问题，更涉及对算法处理的数据集质量的完整性、算法设计的主观情感偏向、人类社会所固有的偏见、甚至不同地区文化差异等各方面问题。当算法设计者和开发者将自身持有的偏见嵌入算法系统，或者用于算法模型的训练数据本身带有偏见或者歧视，结果则呈现歧视和偏见的情形不可避免。

三是算法黑箱造成监管审查困境。目前，以深度学习为核心的人工智能算法模型被普遍应用，但由于其算法结构中存在多个“隐层”，导致输入数据和输出结果之间的因果逻辑关系难以清楚解释，用户只能被动接受由算法带来的结果而无法了解其运行过程，从而形成一种技术“黑箱”。当智能算法决策越来越影响社会运转和人们生活时，对其进行必要的监督和审查显得尤其重要，但对决策算法进行有效审查与监督也并非易事。

四是推荐算法加速了违法侵权等不良信息传播。当前，智能推荐已经成为解决互联网信息内容过载的一种必要手段，但智能推荐一旦被不法利用，将使虚假信息、侵权信息、违规言论等不良信息内容传播更具有针对性和隐蔽性，具有涉及面广且不易察觉的特点。有评论指出，智能算法在满足个性化需求，顺应阅读分众化时代潮流的同时，也有阳光照不到的地方，如未经授权的作品传播、未经科学验证的健康知识、夸大其词的广告、只为博眼球的标题党、过于情绪化的观点乃至毫无用处的信息，都时常出现在智能平台首页的推荐当中。必须承认，智能算法推荐在缺乏有效监管的情况下，必然会放大某些负面影响。因此，保护版权、完善法律规范，迫在眉睫。

目前，在人工智能技术和产业快速发展过程中，从技术维度看，人工智能的法律问题主要与其所使用的数据和算法有关，数据的准确性、安全性和隐私性，算法的透明性、可控性、问责性均成为人工智能风险治理的焦点问题。就算法领域而言，透明和问责成为算法专门性立法的核心内容。2016年10月，法国通过了《数字共和法》，尤为强调使用自动化决策的行政机关和数字平台运营者的透明度义务。2018年5月生效的《通用数据保护条例》（GDPR）中为人工智能算法决策的合法应用规定了严格条件，即经用户明确同意，或是用户和数据控制者之间签订、执行合同所必需，又或被欧盟或成员国法案明确授权；不满足上述条件的无人工干预且对个人产生法律影响或者类似重大影响的人工智能自动化决策应用将被禁止。同时，GDPR鼓励数据控制者向数据主体解释某项人工智能自动化决策的具体原因。GDPR的出台一度引起各国对算法透明度和可解释性的热议。2019年2月，加拿大出台《自动化决策指令》，对算法审查、透明度、质量、用户质疑权加以规定。相较而言，美国则强调技术正当程序下的算法问责路径。2019年4月，美国参议员提出联邦《算法问责法案》，强调通过诉诸专业性的行政机构或外部监督主体，对算法决策问题进行审查。随着人工智能技术瓶颈和缺陷的显现，科技界的理性发声逐渐被接纳，人们对算法透明度和可解释性的要求，更趋于尊重技术规律性。如实践中，自主算法固有“黑箱”成为法律推动人工智能透明度的现实障碍，同时，人们也开始意识到透明度对于实现问责、信任价值的局限性，以及对产业发展带来的负面效应。因此，各国立法和监管机构一方面鉴于当前技术发展的局限性，更趋理性地要求算法透明度，另一方面注重寻求正当程序、区分规制等其他路径。如，2019年4月欧盟发布的《算法责任与透明治理框架》中指出，算法透明并非对算法的各个步骤、技术原理和实现细节进行解释，算法系统源代码的简单公开也并不能提供有效透明度，反而会威胁数据隐私或影响技术安全应用。上文中提及的美国《算法问责法案》也主要强调对企业算法审查的内容，并未提及透明度要求。总体上看，我国政府部门对人工智能技术和产业发展的政策持较为开放的态度，以激励为主，积极利用人工智能发展优势，努力成为新一轮技术和产业变革的引领者。但随着算法技术在实践中的推广应用，其所带来的风险引起国家有关部门的高度重视。2021年9月，国家互联网信息办公室等九部委联合发布的《关于加强互联网信息服务算法综合治理的指导意见》明确了利用3年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

三、推荐算法治理的立法与司法实践

如上所述，由于利益驱动、规范缺位，在“流量为王”逐利的驱使下，算法推荐的滥用引发了算法操控、算法歧视、算法沉迷等一系列的社会问题。算法适用危机的不断出现，呼唤着算法治理体系的健全和完善。我国对算法治理主要聚焦在平台经济领域，是因为平台企业基于发展与竞争的需要，具有优化算法和合规经营的自身内在动力。因此，我国的立法和司法通过界定平台企业对平台生态内算法使用和运行的管理义务，同时赋予用户相应权利构筑多元主体的权利义务机制。如《电子商务法》第18条、第40条要求平台企业在特定场景下履行算法应用的告知义务，以确保用户的知情权，同时还要求平台企业在算法推荐场景下，通过改变和调整技术架构为用户提供选择权和退出权。因此，我国算法治理其实嵌套于平台治理框架之下，通过以平台为抓手，赋予用户在具体场景下的知情权、选择权和退出权，以实现治理目的。

（一）推荐算法治理的立法现状

目前，在我国直接涉及算法推荐的具体规定，系自2022年3月1日起施行的《互联网信息服务算法推荐管理规定》（以下简称《管理规定》），这也是我国首个针对算法推荐的专门立法。其不仅明确了算法推荐服务提供者的主体责任，赋予了用户以知情权、拒绝权和自主选择权，还确立了一些体现算法治理国际共识的理念与原则，就算法诱导沉迷、“信息茧房”治理、大数据“杀熟”等当下的热点问题予以积极回应。《管理规定》具有以下特点：

一是以类型化方式明确了使用算法推荐活动的监管范围。《管理规定》第2条将应用算法推荐技术定义为“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”这一定义几乎涵盖了所有主流算法推荐技术，在算法推荐趋于大众化应用的发展趋势下，无论是短视频平台、电商平台，还是新闻媒体平台、社交平台等，只要内嵌算法的平台企业使用了上述算法推荐技术对用户实施了个性化的筛选与推荐，用以实现最优化的资源配置，都将落入监管范围。

二是算法推荐服务提供者的主体责任更为明确。虽然《电子商务法》《个人信息保护法》等法律法规均不同程度涉及平台信息管理和用户隐私保护的算法责任，但直接在法律规范中明确提出算法责任，并构建推荐算法应用场景下的问责机制在我国尚属首次。《管理规定》第7条规定，算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。相应地，《管理规定》第5章通过法律责任条款明确了违反该规定相关情形时算法推荐服务提供者责任承担问题，将主体责任落在了实处。

三是树立“以人为本”“技术向善”理念，加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，维护用户合法权益。维护用户权利不被侵犯是我国相关立法恪守的基本理念与原则，《电子商务法》第18条、《个人信息保护法》第24条赋予了用户相应的自主选择权、知情权、拒绝权等权利。《管理规定》对用户权利保障亦不例外，赋予用户以自主选择权、知情权、拒绝权、获得说明和救济的权利，这些权利贯穿算法推荐系统的全过程。如该规定明确要求保障算法选择权，应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项，强调个体在算法时代的自主性，以及不得根据消费者偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

四是建立算法公示与备案制度。根据《管理规定》第16条，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。算法公示带来的算法透明一直是算法治理领域颇为关注的问题，它有助于在事前帮助用户更好地了解算法对自身权益的影响，也有助于用户发现算法的问题，作出是否使用的自主选择，使自身权益及安全最大化。《管理规定》第24条对算法备案作出规定，算法备案不仅便于监管机构提升监管效能，而且具有促进企业自治和合规的功能，推动数字科技向善发展。

五是建立分级分类管理的治理理念。《管理规定》第23条根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度以及对用户行为的干预程度等，对算法推荐服务者实行分级分类管理，分级分类管理的目的是在技术创新与权利保护之间尽可能地实现良性动态平衡。

《管理规定》作为部门规章，对于加强行政执法效能和规范推荐算法使用必将起到积极作用。在这一治理模式下，通过确定平台性质、义务与责任等方式，在一定程度上保障用户对算法应用的影响和控制，而避免涉及并介入算法决策的具体过程。但如果一味强调以平台义务和平台责任为杠杆的治理机制可能会导致较高的总体社会成本，从而影响产业的发展。

（二）推荐算法治理的司法实践

推荐算法的快速发展与应用对行业产生颠覆性影响，对平台责任的认定与处理有了新的认知，在利用算法推荐分发信息已成为行业常用技术手段的情况下，简单以“推荐”行为的存在便认定平台构成“应知”，将使作为算法推荐服务提供者的平台企业承担过重的法律风险和成本，阻碍新技术的有效利用。因此，关于平台注意义务标准的设定及应否构成“应知”的认定，成为当前司法实践面临的新挑战。

通过使用北大法宝法律数据库，筛选出自2010年至2023年法院审结的涉及推荐算法平台责任纠纷案件共9件，上述统计仅涵盖了可以查询到的裁判文书。从已查询到的裁判文书和已生效尚未进入数据库的裁判文书，如前述的优酷公司诉喜马拉雅公司、喜大（上海）网络科技有限公司侵害作品信息网络传播权纠纷案情况看：一是此类案件数量在近些年呈现增长趋势，主要是因为新业态产业的快速发展，导致推荐算法技术的广泛商业化应用，算法的滥用以及规范本身的缺乏，不可避免地产生侵权纠纷；二是被控侵权平台以短视频为多，主要涉及影视剧等视听作品。被诉平台所涉领域包括视频、资讯、直播等主流领域，以短视频居多，涉诉主体则包括字节跳动公司、深圳市腾讯计算机系统有限公司等一些规模较大的网络科技公司；三是被控侵权平台败诉率高。从上述案件判决情况看，大多数案件系由被诉平台承担了侵权赔偿责任，表明司法实践中主流观点系对提供推荐算法服务的平台苛以较高注意义务。

面对不断出现的新型疑难复杂案件，司法理念和裁判规则有一个不断总结与完善的过程。目前而言，涉推荐算法平台案例的裁判还有进一步优化的空间。一是所涉推荐算法技术事实对用户权益的影响论述有待丰富。深度学习等人工智能领域技术的引入，使得算法模型运行机理的可解释性愈发困难，仅凭平台自身解释或者备案算法公示的内容，难以合理评估案涉推荐算法的具体影响。实践中，仅有少数案件有专家辅助人出庭解释算法专门技术问题。二是被诉平台承担责任的论理有待强化。对于平台的归责需要同平台的性质结合起来，平台性质的不同表明平台在实质功能上有所区别，反映的是平台对各主体之间交易结构的介入程度和能力有所不同，所以其所承担的注意义务程度也应有所区分。

四、涉推荐算法平台责任纠纷裁判规则完善的思考

2024年两会期间，最高人民法院贺小荣副院长在接受记者采访时指出，探索完善算法规则司法审查标准，包括平台自治程序正当性审查；平台决策的公平、公正性审查；要求对算法逻辑构造作出合理解释；促推完善算法政策、技术监管、伦理准则等；逐步统一典型应用场景的司法规制规则。可见，算法失控引发的算法危机，算法规制是必然，而算法治理是一项复杂的社会工程，无法仅通过简单复制或者对现有治理框架作出稍许改良而达到治理目的，需要结合技术迭代应用与风险防控的现实需要，不囿于传统治理理念与机制的束缚，在权利保护与科技创新之间寻求平衡，通过有效的算法司法规制，逐步推动安全、公平、透明、负责的算法技术及运行生态，以“算法之美”构建算法信任。

（一）避风港法则与推荐算法平台责任

避风港法则最早源自美国最高法院在1984年“索尼案”中所提出的“实质性非侵权用途”标准，即只要产品具有一种实质性的非侵权用途，就不能因有人使用了该产品，即推定产品提供者具有帮助他人实施著作权侵权的主观过错，并要求产品提供者承担间接侵权责任，其目的是防止间接侵权范围的不断扩张，影响创新发展。从世界范围看，1998年美国制定了《数字千年版权法案》，率先以立法方式确立了“通知—删除”机制与避风港法则，该机制和法则深刻影响了各国立法实践，被普遍认为有利于平衡各方诉求，具有合理性和适当性。在经历了20多年的施行和实践之后，科技的飞速发展与市场格局的变化，使这套机制发生了许多未曾设想的问题，导致目前实践中产生了权利人、网络服务提供者、用户利益失衡的问题，即究竟应如何定义网络服务提供者的角色，是否应该要求网络服务提供者承担“网络警察”职能？美国版权局在历时5年的调研后认为，“通知—删除”机制与避风港法则的基本概念与原则总体问题不大，但是对这一机制和法则的修改完善在所难免。欧盟于2019年4月17日通过了《数字单一市场著作权指令》，该新规则表明，网络服务提供者的角色将产生重大转变，由过去不宜担任“网络警察”转变为在一定程度上要扮演这一角色，且潜在的侵权责任也不再限于间接责任，可能会与直接侵权者承担共同侵权责任。

我国于2006年7月1日起施行的《信息网络传播权保护条例》首次将“通知—删除”机制与避风港法则纳入其中，规定了网络服务提供者符合“技术中立”条件免于承担赔偿责任的情形。2020年修正的《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》（以下简称《信息网络传播权司法解释》）第8条第2款规定，网络服务提供者未对网络用户侵害信息网络传播权的行为主动进行审查的，不应据此认定其有过错。从相关法律和司法解释的规定看，提供网络服务的平台原则上不承担对侵权内容的过滤义务，这也是避风港法则在我国法律规范中的体现。

我国司法实践确立了以平台是否违反合理注意义务来判断过错的处理思路。而平台义务的设置需要进行审慎的合比例性分析和成本收益分析，以实现效率与安全的平衡。那么，推荐算法运用下的网络平台注意义务应否区别于传统意义上的网络服务提供者？从司法实践来看，涉提供推荐算法服务的平台往往被苛以较高的注意义务，并承担相应的侵权赔偿责任。可见，推荐算法的运用使传统意义上平台作为网络服务者仅提供中立技术服务的观点受到了挑战。一是具有深度学习功能的推荐算法具备自主决策能力，挑战了传统技术的被动性，即传统意义上的网络服务提供者只是被动地为网络用户提供信息接入、存储、定位等技术性服务，并不主动介入用户所提供的信息内容。而在推荐算法场景下，算法具有能动性，能够主动决策，其通过主动介入用户信息并进行选择、编辑、整理、推荐等程序，涉及了网络内容服务领域，突破了技术中立的应有之义。二是智能算法的个性化推送客观上助力了侵权内容传播，获取了经济利益，导致价值不中立。传统信息分发技术本身不具备影响传播范围的能力，在价值上具有中立性。而推荐算法为了吸引更多流量、获取更大利益，则可能助推侵权内容的扩散，挑战了价值中立性。算法推荐平台作为侵权风险开启的服务平台，由其承担一定的防范和制止侵权的成本，符合责任与收益相适应的管理义务。《信息网络传播权司法解释》第11条也明确规定，网络服务提供者从网络服务提供的作品、表演、录音录像制品中直接获得经济利益的，应当认定其对该网络用户侵害信息网络传播行为负有较高的注意义务。三是日趋成熟的算法技术嵌入逐利驱动的平台之中，滋生蔓延了一系列算法滥用行为，如“算法歧视”“算法偏见”“算法黑箱”等总是被不断提起，算法信任危机日渐显现，特别是算法黑箱内部运作过程不为人知，具备技术开发和使用者隐藏恶意的条件。算法推荐不仅影响了正常的推荐结果，也影响了推荐结果与网络服务提供者的主观状态之间的关联。因此，推荐算法运用平台在信息内容传播上“介入越深、利益越大、责任越重”，其注意义务高于传统意义上的网络服务提供者也是合理的。

（二）推荐算法平台构成“应知”的考量

目前，我国理论界和实务界大多倾向于将网络服务提供者的“应知”解释为“推定知道”。“推定知道”显然是建立在一定事实基础上的判断。《信息网络传播权司法解释》第9条对认定网络服务提供者构成“应知”需综合考虑的各种因素作出了规定，即只有在综合考量各种因素的基础上，才能评价是否构成“应知”，第12条则以列举方式明确规定了“应知”的具体情形。作为判断网络服务提供者构成“应知”的关键条款第9条和第12条均体现了“依据特定事实推定知道”的精神，如第9条第3项规定了“网络服务提供者是否主动对作品、表演、录音录像制品进行了选择、编辑、修改、推荐等”特定事实，第12条第2项规定了“对热播影视作品等的主题、内容主动进行选择、编辑、整理、推荐，或者为其设立专门的排行榜的”特定事实。上述特定行为事实的出现，如主动提供选择、编辑、修改和推荐等客观事实，是网络服务提供者承担侵权责任的前提与基础。随着技术快速发展和商业应用场景的不断拓展，网络服务提供者的注意义务并非一成不变，网络服务提供者的具体类型、技术条件、涉事程度、作品热度等，都是影响注意义务的因素，故应以动态的眼光看待网络服务提供者的注意义务。因此，责任分配一般是同平台介入事务的程度与能力相匹配的，如将算法推荐平台归入内容提供的平台经营者时，其注意义务要高于传统意义上的网络服务提供平台，即当算法推荐服务经营者以算法技术主动向用户推定内容链接或发布内容信息的，自然应当就其主动推送的侵权信息承担较高注意义务。

实践中需要注意的是，推荐算法平台注意义务的设定，以及具体判断平台是否积极采取了预防侵权的必要措施时，应当与算法推荐引发侵权可能性、平台信息管理能力等相匹配，必要措施的认定除考虑平台经营模式、技术水平、成本与获利大小等因素外，也应当具有技术上和经济上的期待可能性，避免过高或不合理的注意义务超越平台的客观能力或使平台承受过高的成本，影响平台正常经营和创新能力，亦不利于行业中小企业平台的生存、发展和竞争。另外，推荐算法平台注意义务的设定，还要注意遵循数据利用和运作逻辑，审慎区分利用算法技术侵犯消费者知情权、选择权的价格欺诈和歧视行为与平台企业基于成本或者正当营销定价策略享有的自主定价行为，确保强化监管的同时，不会扼杀行业发展。

（三）以利益平衡为原则，合理配置举证责任

从行业规律、治理困境和国际趋势看，算法技术的复杂性、算法应用的深度社会嵌入性以及技术高速更新的风险性进一步加大了治理挑战。基于治理文化、制度环境和策略选择的惯性，我国在智能和数字领域仍然存在治理困境。司法领域对于推荐算法平台侵害用户权益的治理也同样遇到挑战，合理配置举证责任不失为一种应对治理困境的探索与尝试。一般而言，谁主张谁举证是民事诉讼法规定的基本举证原则，减轻或者免除举证责任则属于特别的和例外的规定。而在推荐算法广泛应用的商业场景下，在功能强大且算法技术复杂的平台面前，平台与用户之间存在技术性鸿沟，用户在权利保护强度上有天然的弱性，处于弱势地位。从这个意义上讲，用户权益遭受侵害时的保护亦具有特殊性，可以根据特殊性设定举证责任。如举证责任转移，只要用户对权利侵害的事实提出了初步证据，即将提供反证的责任转移给推荐算法平台，由平台对侵权事实不存在予以证明。通过举证责任转移，将算法推荐技术原理的解释权赋予平台，亦便于平台修正与完善因算法缺陷给用户造成的损害。

（四）以算法司法规制推动完善算法综合治理机制

面对大数据技术日趋复杂、资本对平台运营强力驱动、消费者屡遭歧视及权益损害而无力反抗的局面，算法司法规制成为有效的治理手段之一。算法司法规制应坚持算法公平公正、公开透明、向上向善原则，督促平台企业既要深度创新与科技向善，打造负责、安全、友好、公平的运营技术的同时，也要清晰认识自己的责任和义务。另外，规制算法滥用行为需要综合性、系统性的协同治理，唯有切实保障用户权利，强化公力救济机制，提升技术性监管水平，增强平台自律监管，才能综合性、系统性、根本性地防范和制止因算法缺陷遭受的权利侵害。

随着算法社会的全面来临，算法在我国商业和公共事业场景中扮演着日益重要的角色，而算法推荐导致的信息茧房扰乱传播秩序，个性化定价算法滥用消费者画像进行的大数据“杀熟”，人脸识别技术非法滥用个人信息安全等问题频繁显现，算法治理的实践需求日益高涨，探索行之有效的治理方案势在必行。其中，建构科学合理的平台责任对算法规制策略的形成必将产生实质的影响。因此，尝试突破传统的避风港法则、提高平台的注意义务、适应技术发展趋势确立平台“应知”的标准，将始终成为当下立法者和司法者无法绕开的核心议题。

智能写作4.0

1. 私有智库：单篇对话与向量检索的智能融合

自建知识库是智能写作4.0的一大创新亮点，它赋予了用户构建个性化知识体系的能力。这一功能不仅支持单篇对话的存储，使得用户可以轻松回顾和整理过往的交流内容，而且通过向量检索技术，用户能够实现对知识库内容的高效检索。这意味着，无论您的知识库多么庞大，您都可以通过关键词或短语快速定位到所需信息，极大地提升了信息检索的准确性和便捷性。

2. 一划即达：法宝全库数据的划词能力

划词检索法宝全库数据功能是智能写作4.0的另一项革命性创新。用户在阅读或编辑文档时，只需轻轻一划，选中的文本即可触发智能检索，系统会立即从法宝全库中检索出相关数据和信息。这一功能不仅极大地简化了信息查找的过程，而且通过实时更新的数据库，确保了检索结果的时效性和准确性，使得用户能够快速获取到最相关的资料和数据。

3. 语言无界：19种语言的智能翻译大师

智能写作4.0的智能翻译功能，支持多达19种语言的互译，覆盖了全球大部分主要语言。这一功能不仅能够实现文本的即时翻译，而且通过先进的算法优化，确保了翻译的流畅性和准确性。无论您是需要将中文文档翻译成英文，还是需要将西班牙文翻译成法文，智能写作4.0都能为您提供准确、自然的翻译结果，让您的跨语言沟通和创作更加轻松。

4. 模板王国：6000+文书模板与个性化定制的创意工具

智能写作4.0提供了6000+的文书模板，覆盖了法律、商务、教育等多个领域，满足不同用户的需求。这些模板由专业人士设计，确保了其专业性和实用性。此外，智能写作4.0还支持自建文书模板，用户可以根据自己的需求和喜好，创建个性化的模板，这不仅提高了文书创作的效率，而且使得文书更具个性化和专业性。

5. 实用工具：赋能司法案例的深度检索报告

智能写作4.0赋能司法案例检索报告功能，是法律专业人士的得力助手。它不仅能够检索到最新的司法案例，而且通过智能分析，为用户提供案例的详细报告，包括案件的基本情况、判决结果、争议焦点、法律依据等关键信息。这一功能不仅极大地提高了法律研究的效率，而且通过深入的案例分析，帮助用户更好地理解法律条文和司法实践，为法律实务工作提供了强有力的支持。

扫码预约法宝产品演示

↓

-END-

编辑排版丨金梦洋

审核人员丨张文硕

本文声明丨本文章仅为交流之目的，不代表北大法宝的法律意见或对相关法规/案件/事件等的解读。

▼ 往期精彩回顾 ▼

法宝应用 | 论网络服务提供者对侵权通知的审查义务

法宝应用 | 论刑法中的数据：概念、文本与实践

法宝应用 | 何海波：行政权利论

法宝应用 | 法律科技的变革：从计算机化到数字化与智能化

法宝应用 | 论出资瑕疵情形下董事对债权人责任

法宝应用 | 为什么法定的商业秩序难以形成和维持?

法宝应用 | 金融诈骗罪特别从宽于诈骗罪的再认识

法宝应用 | 冯玉军：中国式现代化进程中地方立法的高质量发展——以苏州市人大立法三十年为例

点击下方公众号名片

北大法宝

涵盖法律法规、司法案例、法学期刊、律所实务、英文译本、专题参考、法宝视频和司法考试的综合性法律信息检索系统。