意大利外卖小哥困在算法里:Glovo因“十宗罪”被重罚500万欧元

文摘   2024-11-30 11:01   上海  
境外执法机构颗粒度可真细,不知道如果拿这套标准检视美团和饿了么,结果会咋样?

以下文章来源于互联网法律匠 ,作者麻策律师

文/麻策律师
2024年11月24日,网信办发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,对包括“一味压缩配送时间导致事故发生率上升”等“盲目追求利益侵害新就业形态劳动者权益”的算法机制提出合规要求。
而无独有偶,2024年11月13日的意大利,也发生了外卖平台基于算法违规而触发的500万欧元巨额罚单事件。
2022 年 10 月 1 日,意大利佛罗伦萨发生了一起交通事故,这些事故导致26岁外卖骑手 Sebastian Galassi(S.G.)在代表 Foodinho s.r.l.(以下简称 "公司")所运营的Glovo外卖平台递送外卖时死亡。
而两天后,外卖平台Glovo给这位年青的外卖员发送如下一条引起轩然大波和众怒的短信息:"亲爱的 S.G.,Glovo 的目标是为其快递员、合作伙伴和客户提供最佳体验。为了维护一个健康、公平的平台,有时有必要对这些用户的不当行为采取行动。我们很抱歉地通知您,您的账户因不遵守条款和条件而被停用。"
而正是这条短信,引发了意大利数据保护机构Garante的警觉——如果能够给死亡账号发送信息,这显然是一条自动化机制触发的通知。但外卖平台Glovo在申辩中认为,这是获悉外卖员死亡后人工作出的停用账号决定,以避免该账号在用户死亡后受到不当使用。Glovo同时也认为通知中使用的“因不遵守条款和条件”实际上太过于标准化操作,确实没有反映出个案特点而撰写。
而随着调查的不断深入,意大利数据保护机构Garante挖掘出了这家外卖平台更大更多的数据处理违规问题。
01 违反默认数据保护PbD
GDPR第 25 条规定了默认数据保护原则,即"在处理过程中采取适当的措施和保障措施,确保数据保护原则的有效性以及数据主体的权利和自由",并确保 "默认情况下只进行为实现特定合法目的而严格必要的处理"、同样,关于数据保留期,"在处理活动设计的所有阶段,包括采购、招标、外包、开发、支持、维护、测试、存储、删除等。"
虽然外卖平台申辩称虽然短信看起来并不具有针对本起交通案件有关的个性化内容,但仍然是人工决定的后果。但是,Garante认为,就已故骑手而言,该类信息的发送违反了准确性、适当性、相关性和正确性的原则。因为正如公司自己所说,封禁账号并不是因为其违反了平台的使用条款和条件,而是为了 "防止第三方使用该账户";同时,公司也表示,已故骑手 "本不应该收到任何停用或封禁账户的通知,因为在本案的具体情况下不需要这样做";最后,同类的短信通知,从公司的服务端日志数据中可见,已经被反复重复使用在各个账号封禁的场合之中。
02 违反告知透明度
隐私政策已经变得越来越臃肿,虽然详尽,但用户获取信息也变得越来越混乱。事实上,隐私政策并非越详尽越有效,特定阶段和场景中的隐私政策,反而应当避免过多的细节。
因此,欧盟第 29 条工作组在2018年4月11日发布的《2016/679 号条例下的透明度指南》提供了“分层隐私声明”(ayered privacy statements/ notices)规则,明确要求应使用分层隐私声明/通知来链接必须向数据主体提供的各类信息,而不是在屏幕上的单一通知中显示所有此类信息,以避免信息疲劳。
而在本案中,Garante调查后发现,Glovo在其隐私政策及条款("快递员使用 Glovo 平台的条款和条件")中多处存在违反透明度义务。以地理定位数据为例,虽然隐私政策规定"只有在快递员直接激活其设备上的地理定位功能的情况下,并且只有在快递员执行投递任务的时间内,持有人才可以接收与所使用移动设备的地理位置有关的信息"。但是,这一信息与检查结果不符,因为经调查,即使应用程序处于后台,全球定位系统也能运行。
另外,Glovo声称"为履行数据控制者根据骑手集体协议在劳动法、安全和社会保护领域承担的义务,有必要对骑手生物识别数据进行处理 ",但Garante认为,上述隐私政策条款说法并不正确,事实上,上述集体协议中并没有明确规定面部识别的义务。
03 不透明自动化决策
意大利L. 23/7/2023, no.第 85 号法令规定:"在使用自动决策或监控系统情况下的附加信息义务")规定,"公共和私营雇主或委托人有义务告知雇员使用部署的全自动决策或监控系统,以提供与招聘或分配、管理或终止雇用关系、分配任务或职责相关的信息,以及影响监督、评估、绩效和履行雇员合同义务的信息。
外卖平台开发的“卓越评分系统”,是用于为骑手分配配送时段的内部评分系统,通过 "卓越评分系统",平台可以为每位骑手打分,得分较高的“优秀骑手”将优先获得配送的订单。在实际操作中,如果所有可用的送餐时段都被 "优秀 骑手”占用,"不那么优秀 "的骑手就会被排除在时段分配之外。优秀得分 是通过一个自动数学公式分配的,主要基于客户和业务伙伴的反馈以及送达率。
在调查中,虽然外卖平台表示 "在不同时间通过不同方式解释了卓越评分系统的运作",其中包括 在入职过程中 向骑手提供的解释性视频、公司网站上的信息、通讯和会议”,但却都没有提供任何证据。
04 将骑手定义为“数据控制者”
调查发现,在 Glovo 网站的 "Glovo 快递平台使用条款和条件 "文件中,外卖平台还在 2022 年 12 月 13 日和 14 日的平台协议更新中,指定骑手为数据控制者,涉及客户和订单数据。这一做法违反了GDPR第28条关于数据控制者的定义。
Garante调查认为,考虑到向骑手发出的指令,考虑到骑手实际开展的活 动,并考虑到公司与快递员之间存在的工作关系类型,上述数据处理者法律角色与实际委托给骑手的任务性质并不相符。
05 派单系统中的违规操作
外卖平台开发的“卓越评分系统”的算法,是根据骑手在过去 28 天在不同城市使用平台的四个不同权重的参数而计算。包括基于完成订单量的贡献参数,基于签到数的在工作时间内未签到的参数,基于顾客评分的参数,以及在高需求时段中工作时间统计的参数。得分最高的骑手在分配工作班次和相关订单时优先于其他骑手,同时考虑到有些班次允许更多订单(所谓的高需求时段)。
同时,公司还会根据以下5 个参数,对订单分配进行自动化派单操作,包括"骑手车辆情况、骑手所下的位置,骑手位置与取货点之间的距离,取货点与交货点之间的距离、骑手设备电池状态")。
因此,通过这两个算法系统,公司进行的处理包括完全基于自动化处理的决策,包括与工作班次分配和交货订单有关的特征分析,由于系统作出的决策,通过增加或减少工作机会,这对骑手产生了重大影响。
调查发现,自 2021 年起,外卖平台从后台为每位骑手分配一个固定自动化的"评级 "值。但是,为所有意大利骑手设定一个虚构的(尽管是唯一的)评级数值,却导致该公司将一个数值不准确的数据集与骑手联系起来,公司在建立系统时没有采取足够的措施来有效执行数据保护原则,不能确保上述数据的准确性。
06 外卖小哥生物识别数据处理

2023 年 2 月初,外卖平台对意大利 3.28%的在用快递员启动了面部识别测试;2 月 20 日,测试范围扩大到 18.33%的在用快递员;2 月 27 日,测试范围缩小到 15.55%,3 月 13 日,测试范围扩大到 32.61%。外卖平台公司还表示,计划从 2023 年 3 月 27 日起重新启动所有在职外卖员的面部识别功能。

至于原因,外卖平台认为其目的是 "确认被识别的人是一个真实的人,而不仅仅是账户所有人的照片”。处理过程分为两个阶段:第一阶段,旨在扫描骑手身份证件中的照片;第二阶段,要求骑手进行面部 "自拍",以便与身份证件的扫描照片进行核对。

但是,Garante调查认为,外卖平台曾在七个多月的时间里暂停处理生物识别数据,这一事实表明,这种处理对于提供送餐服务并非不可或缺。特别是,Garante发现公司 "面部识别 "进行的处理包括 "每天一次要求所有相关外卖员进行面部识别”。在处理生物识别数据时,外卖平台使用了由美国公司 Jumio Corporation 提供的软件。

Garante认为,根据GDPR,对于在就业背景下进行的处理,只有在 "为履行数据控制者或数据主体在就业和社会保障法方面的义务和行使其特定权利所必需 "时,才允许处理生物识别数据。对于在就业背景下进行的处理,只有在 "为履行数据控制者或数据主体在就业和社会保障法及社会保护方面的义务和行使其特定权利之目的所必需的情况下,经欧盟或成员国法律授权,或根据成员国法律经集体协议授权,并在对数据主体的基本权利和利益有适当保障的情况下”。

因此,现行数据保护法律不允许处理工人的生物识别数据,对其进行识别后以防止在提供服务时出现人员替换并不具有可行性。特别是骑手在通过面部识别后,仍然有可能在将设备交给另一个人。

07 违反DPIA

GDPR第35条规定,"如果某类处理操作,特别是涉及使用新技术的处理操作,在考虑到处理的性质、主体、背景和目的的情况下,可能对自然人的权利和自由构成高风险,则控制者应在处理前对所设想的处理操作对个人数据保护的影响进行评估"。

Garante调查发现,在开展调查活动时,虽然外卖平台公司已按照上述第 35 条的要求进行了数据保护影响评估,其中专门涉及生物特征数据的处理(特别是面部识别)。但是该评估没有充分考虑到在管理雇佣关系时处理生物识别数据的合法性问题,同时,评估时将履行合同义务作为合法性基础。因此,Garante认为,外卖平台在处理骑手的生物识别数据是非法的,其DPIA并没有就此合法性进行评估,DPIA本身就存在重大缺漏。

08 违反必要的保障措施

在调查过程中,因为可以直接进入了外卖平台系统,Garante发现公司的操作员可以访问 Glovo 集团公司在意大利以外的欧洲国家和欧洲以外国家的骑手的一些数据。

特别是,通过访问 "实时地图 "部分,意大利公司的经营者可以在作为参考的城市(欧盟和非欧盟)地图上查看值班骑手的个人数据,特别是身份证、电话号码和地理位置。鉴于公司使用的平台以统一的方式运行,无论在哪个国家使用,Glovo 集团其他公司的运营商可以或已经能够访问在意大利运营的骑手的某些数据。

2024年1月,Glovo 集团也认识到了这个问题,其在申辩中称已在GlovoApp进行调整,从而"建立基于国家的隔离级别,防止在其他国家显示快递员的个人数据,少数情况除外"。

Garante认为,至少在 2024 年 2 月 29 日之前,即在相当长的一段时间内,公司没有就GlovoApp采取步骤,通过隔离措施确保对在意大利运营的骑手的个人数据的访问将受到限制,且与处理目的相关,并确保此类数据的保密性。隔离措施旨在不允许在其他国家运营的其他关联公司的运营商通过平台访问在意大利运营的骑手的个人数据(特别是 ID、电话号码和地理位置)。

同时,可以访问公司 "实时地图 "部分的操作员总数为 321 人。考虑到公司似乎没有对使如此多的经营者有资格进入 "实时地图 "部分的具体要求进行精确评估,从而实际上开放了不恰当的员工访问权限。

09 违反数据存储期

调查发现,Glovo将与骑手的通话记录保存了 36 个月,用于以下目的:"评估所提供服务的质量"、"在出现投诉或审判的情况下,对与第三方的所有互动进行书面记录"、"处理并适当回应主管当局[......]和执法机构[......]提出的要求",以及"根据 GDPR 妥善处理和记录数据主体[......]提出的要求"。

但是,Glovo并没有说明有哪些法律义务要求有36个月的保留期限。另外,骑手的送货路线地图也被保存,公司在其辩护状中辩称,上述骑手的通话电话和送货地图的保留期限本来可以设定为 10 年这一更宽的时限, 因为考虑到 "它们实际上与公司和快递公司之间合同关系的管理、法律义务的履行。

但是,Garante认为这一论点不能接受,因为所收集的个人数据的保留期限必须与处理的具体目的相称。该公司没有具体说明,也没有举例说明,数据控制者是如何根据税收、社会保障或规定期限的规则而有必要保留电话甚至路线图的。

10 非法共享骑手数据

2023 年 7 月 26 日和 27 日的检查结果显示,Glovo向第三方(尤其是 Google Firebase、Braze 和 mParticle)发送了大量与骑手有关的个人数据。

Glovo表示,这些服务提供商 "代表 Foodinho S.r.l. 担任数据控制者。例如,谷歌 Firebase 提供的 Crashlytics 功能 "用于检测和管理用户使用的移动和网络应用程序的崩溃",该公司会发送以下信息:骑手 ID 和 "日志信息"("记录事件发生时用户正在进行的操作的元数据:事件发生时用户所在的当前屏幕、为特定用户启用的功能激活程序、用户触发事件的操作,例如点击或通知到达")。法律依据是执行与用户签订的合同,以及解决应用程序故障的可能性。

Garante调查认为,Glovo通过使用被指定为次级处理者的公司提供的服务,长期处理大量涉及骑手的个人数据,而这些数据与所追求的目的无关,有时处理方法甚至连该公司自己都不知道。特别是未清除的代码残余。

最终,Garante根据案件相关的所有因素,特别是侵权行为的性质、严重程度和持续时间,考虑到有关处理的性质、目标或目的,以及受损害影响的数据当事人的数量和他们遭受损害的程度,认为本案中外卖平台侵权行为的严重程度较高,应向Foodinho s.r.l. 公司适用行政处罚,即支付相当于 5 000 000 欧元(500 万)的罚款。

原文:https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/10074601

数据何规
个人信息保护、数据安全及AI监管最新动态。
 最新文章