年会速递 | 张凌寒：平台在算法的商业运用中的责任

2023年12月16日，北京大学电子商务法研究中心“《电子商务法》实施五周年：回顾与展望”年会在北京召开，中国政法大学数据法治研究院张凌寒教授应邀参会，以“平台在算法的商业运用中的责任”为题进行发言。张凌寒教授对我国目前与算法相关的案例进行了梳理，将相关案例与法院案由体系进行了匹配和分类、对算法服务进行了细致分类，进而提炼出了法院基本的判决思路。以此为基础，张凌寒教授对司法实践中的争议焦点进行了梳理和分析，并总结了责任认定方面的三个要素。

以下内容根据会议现场速记整理，并经演讲者审核无误后发出。文章内容仅代表嘉宾个人观点，不代表本机构意见。感谢张凌寒教授对本次研讨会的大力支持。

      今天向大家汇报的是算法相关纠纷案件在平台责任的司法裁判认定的一些基本思路，这个主题实际上是源于我们去年开始的关于最高人民法院重大司法改革的一个研究课题，该课题已于上个月结项获得了优秀的反馈和评价。非常高兴能够跟大家集中汇报一下我们整个课题相关的研究成果和研究思路。

为什么要讨论这个问题？实际上是源于现在实践当中大量涌入法院的跟算法相关的司法裁判案例。那么法院在审理的过程当中，我们也经常会接到相关的基层法院的咨询，学界各位老师、中级人民法院、高级人民法院和最高院研究室也时常参与相关疑难问题的讨论。尤其是来自互联网法院的一些讨论，比如算法相关的案件应不应该成为一个单独的案由。但这曾经一度在最高院司法管辖的司法解释中酝酿要出台的文件，后来也没有看到相关的推进。因此我们接了此项目，研究梳理了我们国家现在能够找得到的一些算法相关的案例，合计大概将近200个。针对这些案例，我们做了一些工作，就是把这些算法相关案件和我国已有的整个案由体系进行了匹配和分类，去探究我们究竟有没有必要单独列一个，类似于数据权属相关的或者算法侵权相关的案由。

      根据我们初步的分析，我们大概可以看到我们能够找到的国内和国外比较密切相关的一些跟算法相关的案件，按照现有的案由体系大致可以分为5类，分别是人格权纠纷，知识产权纠纷，不正当竞争纠纷，网络服务合同纠纷以及一些行政部门相关的算法的案件。比如说行政部门使用算法自动化决策，做出的一些决策可能被纳入到了行政复议或者行政诉讼案件的整个审理范畴当中。在这个过程当中，我们也梳理出来了很多的争议焦点，实际上相对来说争议焦点是比较集中的。比如说在人格权纠纷当中，最大的争议焦点就是利用算法去实施相关侵权行为造成不利法律后果的这样一方主体，往往是被认定为实际上没有主观过错的状态，而不利后果都是算法技术自动运行造成的。在知识产权纠纷，一大部分是信息网络传播权的纠纷，主要的争议焦点也是在于对使用算法的平台主观过错的认定，算法是否能够构成帮助侵权从而被判定法律责任，以及之后所采取的必要措施应该去如何认定，都存在争议。例如短视频平台是否应当采取必要措施来识别和过滤侵权内容，典型案例有“延禧攻略”案和“云南虫谷”案。还有一部分案件主要集中讨论算法生成物是否具有独创性、算法本身是否有获得知识产权保护的必要、算法属不属于商业秘密等问题。这是在知识产权方面，其实不正当竞争纠纷也常常会聚焦在算法工具是否能够构成不正当竞争和实质性的替代或辅助作用，算法使用者对于算法形成的结果是否明知、应知，是否存在过错。在网络服务合同纠纷案由中，案件的争议焦点除了算法使用者是否存在过错外，还需仔细考虑涉案双方间合同约定的影响。

      在案件收集整理的过程当中也感谢全国各地法院，尤其是互联网法院的帮助。去判定一个案子是否跟算法相关，课题组成员找了我国法律法规当中涉及的100多个关键词，比如说数据处理、数据抓取、爬虫这种可能相关的词语。饼状图中绿色的部分就是已经梳理到的案件当中网络服务合同纠纷所占的比例，我们可以看到它占到了超过1/3。蓝色的是人格权纠纷，浅蓝色是不正当竞争纠纷，深灰色是知识产权纠纷。

      除了这个工作之外，我们的课题组还做了一个相关的工作，就是依据《互联网信息服务算法推荐管理规定》把算法服务分为5类，分别是生成合成类、个性化推送类、排序精选类、检索过滤类和决策调度类。从技术的角度来说，实际上它们是有一些技术重合的。比如说我们一般认为检索过滤类和排序精选类实际在原理上是差不多的，但是《互联网信息服务算法推荐管理规定》实际是按服务应用类型来划分的。除此以外，我们还把这些案例和对算法服务应用类型做了相关的匹配，以希望法官在看到我们这个研究成果之后，能够根据案件中相关的算法服务结果、业务类型进行便利检索。同时，针对以上五类算法，我们又汇总了相对应的多种适用场景，并总结了各种类型算法服务应用的一些常见争议焦点。

      在这个过程当中，我们会有这样一个基本的裁判思路：通过国内现有的所有的算法相关法律法规的整理，我们会发现当这个案子已经打到法院的时候，法官其实要做的是特简单的一件事情，就是你要先去关注在这个案件当中的算法推荐服务提供者，无论是被告也好，原告也好，只要是一个算法推荐服务提供者，他有没有去履行国家法律所规定的所有合规的义务。比如说算法的事前治理要求一定的算法透明度、进行算法备案等。我们依此做了一个详细的checklist，明确算法透明度与算法备案的合规要点。在算法的治理过程中，还可能涉及有没有针对算法分级分类，配备相应的数据安全的相关的制度，以及在内容合规层面和安全管理层面的判断。把这些算法事中治理的要点，包括对算法用户模型机制机理或用户标签相关管理的内容考虑进来，法官就可以把这些算法推荐服务提供者合规的前置义务都捋清楚了，从而对于算法推荐服务提供者是否侵权，心中就有了一个比较明确的判定。

      以上就是我们当时做的对于算法相关案件拆解的划分。

      其次，纵使我们前面发现算法推荐服务提供者的事前合规义务都有履行的话，事后治理中实际上还可能会有一些争议焦点。当一切看起来都是符合法律规范，还有一些比如说算法公平的争议、如何在实践应用当中进行算法解释的问题。在我们的整理过程当中，我们发现法官提出的争议焦点集中在以下几个方面，第一个就是算法自动化运行给主观过错的认定带来了非常大的挑战。即使在现在，我们也经常在所梳理的判决书当中看到有关技术中立原则是否适用的问题，在这些案件当中都有一些篇幅会予以讨论。第二个就是在大量的相关侵权纠纷当中，法官经常探讨案件相关的举证责任应该由谁来承担。因为大部分的被侵权人都会主张自己没有相应的技术能力，也没有相关的资料和数据，是没有办法承担这样的举证责任的。目前一些法院已经开始把这样的举证责任逐渐分配给了算法推荐服务的提供者，也就是平台一方。第三个争议焦点就是一些难以认定的新型损害，比如算法歧视。在我国算法相关的规定当中，其实最关注的就是大数据杀熟。但是究竟什么是大数据杀熟以及差异化定价到什么程度可以被认定为大数据杀熟，实际上目前我们看到的一些比较知名的案例都没有给出明确的认定，而往往将差异化定价解释为一个含糊的合理范围。除此以外，还有一些还没有在司法实践当中给予明确的认定的因算法依赖造成的新型损害，比如说网络沉迷等等。在研究过程当中，我们也同样发现，算法对于相关行业的发展实际上是有较大的影响的，例如短视频行业。目前为止得出的结论是从2016年一直到2022年的相关案件可看出我们国家对于整个算法推荐服务提供者的注意义务水平要求是在逐渐提升的。

      那么我们又会发现对算法滥用的认定，以及包括说算法事前的这些合规，也一定程度上增加了企业的合规成本。平台对算法的使用是否算在平台治理的范畴，这在目前不同的案件当中，法院给出的回应不同。也就是说对于平台利用算法自动去治理平台内的用户应该有一个什么样的边界，现在还没有一个明确的标准。根据我们的一些研究讨论，其实有以下几个点我觉得是可以得出一些明确结论的。比如说目前为止，我们还可以看到在有关算法的不正当竞争纠纷当中，算法还呈现一个侵权工具化的样态。我们看到的很多案例，利用算法去进行流量劫持或扒取别人的数据，或者去扰乱干扰搜索引擎的排序算法。在这些情况当中，我们并没有看到算法的自动化运行对传统的侵权责任的认定有什么样的本质性的影响。所以这一类算法相关的案件，我们认为并没有明确提出增加算法相关纠纷的这样一个案由的正当性以及必要性。除此之外，我们还看到这一类可能是属于跟算法相关的一些新型纠纷，算法看似是被设计中立化运行的，但是在运行过程当中产生了侵权的结果。技术本身是中立的，但被注入设计理念后，便具有了可责性。我国司法实践普遍认可技术的中立性，但一般不认为单凭技术中立就可以实现免责。

      在这个过程当中有以下几个点是对法律现在规范提出的挑战。我刚才提到的对举证责任的影响，对当事人的注意义务和因果关系的认定，还有对损害结果界定的影响。也就是说目前有关算法歧视和大数据杀熟等案件，都是按网络服务合同纠纷的去判的，并没有办法算作是侵权纠纷。我们可以看到很多的典型的案例，实际上都体现出来我们国家在2021年、2022年和2023年这三年密集出台行政法律法规和规章，都大幅度地提高了算法推荐服务提供者的注意义务的标准。比如说在之前。实际上长短视频案件也好，或者说之前搜索引擎自动补足算法侵权案件也好，其实2016年和2017年就有很多，但在当时基本都是判原告败诉了。后来才有了整个倾向的调整，这跟国内对算法的设计者和使用者的要求在行政规章层面提高是不无关系的。

      另外我们还可以看到，除了认定责任方面，有相关的改变受到了行政规章的影响。在免除责任的层面，实际上也是受到行政规章的影响，比如说一个算法风控引发人身权益侵权的案件，当平台在行政规章的要求下去部署了算法自动监测的风控系统时，用户可能基于此起诉平台侵权，但是由于平台是基于法律监管的要求和公共利益的保护的目的，设置这样一个风控的算法应用，因此排除了平台的侵权责任。于是我们可以看到行政法规和规章，对于算法纠纷相关民事案件的一些注意义务的影响。

      所以说如果我们不把算法作为工具，而是认为算法自动运行引发一些不利法律后果造成算法纠纷的话，在责任方面有三个要素可以考虑。第一是可能将行业发展作为判断责任边界的要素，在司法过程当中我们的法院基本上都恪守了这样一个原则，不去过多地干预商业主体的正常活动，对于算法造成的偶发性的错误予以宽容。我们举个简单的例子，就是2019年很出名的企查查的案件，我们可以看到最后法院在认定侵权责任的时候说，如果企查查推送的是一些普通的错误信息，实际上可以容忍这是一个技术错误。但是如果是关系到企业生死存亡的这样一些关键的信息，那么企查查要务必尽到重新二次审核的注意义务。所以我们可以看到基本上标准是说一个偶发性的错误和在一个重大过失之下的一般注意水平，其实法院都还是基本能够容忍算法造成的偶发性错误。第二是在判定算法纠纷责任的过程当中，大量地考量了算法服务提供者的成本，比如说一系列长短视频案件都考虑到了比例原则和避风港规则，即平台为算法承担的责任需要与其能力、收益相匹配，不能对所有平台的技术水平设置统一标准。第三就是算法既可以被用来和用户打交道，也可以被用于平台内的治理。那么平台出于维护交易安全和公共利益，对用户和平台内的商户进行管理，一般被推定为属于对算法地合理使用。以上是我们通过总结目前可以确定的三个要素。

      简单介绍到这里，谢谢大家！