![]()
▲2024年8月30日，韩国首尔，市民在抗议深度伪造色情影片活动中手举面罩 图/视觉中国在深度伪造技术的加持下，任何人的照片都能被篡改拼接，而且看上去毫无修改痕迹。自己的脸被拿去拍裸照和小黄片这样的遭遇，如果能在韩国出现，那么理论上在全世界范围泛滥就是迟早的事，并且女性往往会首当其冲成为受害者。进入“电报”（以保密性著称的即时通信软件）聊天房，上传一张脸部照片，不到5秒钟，采用了深度伪造技术（Deepfake）的机器人（bot）就能合成一张真假难辨的照片——就当前而言，深度伪造技术已经可以把不同人的声音、面部及身体像拼图一样随意拼接，制作成各种影像乃至视频。
2024年8月，大量利用深度伪造制作色情合成物的“电报”聊天群在韩国的社交媒体上曝光，受害者遍布韩国全国，涉及明星、军人、老师、护士、学生等不同群体，多为女性。
但这并非韩国本土首次出现深度伪造性犯罪。2019年N号房事件被曝光时，曾有媒体报道过一些“电报”聊天房正利用合成技术制作色情影像。此后深度伪造性犯罪一度淡出公众视野，但并未真正消失。
在备受关注的“首尔大学深度伪造性犯罪”事件中，受害女性自己收集整理证据，用长达两年五个月的时间将加害者送上法庭。然而，有关深度伪造的数码性犯罪不仅没有得到遏制，反而愈演愈烈。
一出民间倒逼官方的奇观因此在社交媒体上演。从2024年8月末开始，韩国女性网友开始不断将受害者的经历翻译成不同的语言，在互联网上传播，几个深度伪造话题下的推文数量都超过了三万，一些热门推文的阅读量已突破一千万。
“正是由于韩国媒体的沉默，我们才不得不使用英语写作。这么做是为了迫使他们报道而非试图掩盖它。”参与者之一玛丽告诉《南方人物周刊》。
“韩国的换脸问题太严重了。”“现在无法预测有多少女性因深度伪造技术而受害。”8月末，随着两位韩国女生在微博发文求助，“韩国新版N号房”等话题在中文互联网传播开来，并迅速占领热搜首位。
“韩国媒体和司法系统不会做他们应该做的事情，除非他们因为没有采取正确的行动而受到国际社会的抨击。”一位网友戏谑道。
▲2024年8月28日，韩国首尔，韩国女性人权振兴院在数码性犯罪受害者支援中心内设置了深度伪造犯罪受害预防和对受害者紧急援助方案的看板 图/视觉中国“发送一张你最喜欢的女孩的照片。”朴高恩进入房间后，立即收到聊天机器人发来的信息——这是“电报”上一个利用深度伪造非法合成色情影像的房间，参与者达22万人。进入这些房间并不困难，只需要在社交媒体上搜索关键词便能收获一大串访问链接。朴高恩按照提示放入一张由AI制作的虚拟女性照片，5秒后，一张裸体照被合成出来。她仔细端详照片，发现其足以以假乱真，照片一旁甚至还有按钮调整特定部位的大小。这样一张合成照片，制作费用仅需约650韩元（约合3.44元人民币）。“技术进步得如此迅速，着实让我震惊。”作为一名记者，朴高恩两年前就曾撰写过非法数字合成物犯罪的报道。在她的印象里，过去人们还需要付费给专门的技术人员才能制作非法数字合成物，而现在，任何人都可以通过人工智能自行合成。韩国警察厅发布的“深度伪造犯罪现状”数据显示，深度伪造犯罪案件数量呈现逐年递增趋势。从2021年的156起增加到2022年的160起，2023年达到了180起。2024年前七个月共报告了 297 起案件——几乎是2021年的两倍。“guilty archive”是韩国一个公开追踪女性仇视犯罪的社交账号，在社交平台拥有12万粉丝。几天前，运营这一账号的林幼真开始收到网友举报，对方称“电报”上有一个专门针对青少年的深度伪造群聊。根据对方的提示，林幼真潜入聊天房，看到“充斥着女性裸照的群组，感到非常恶心。”其中令她印象最深刻的是一个专门侮辱某学生的房间，里面有超过1000个成员，他们不仅用该学生的照片制作色情视频，还公开了她的所有个人信息——一些人甚至通过她的联系方式告诉她“你遭受了深度伪造”，以分享她痛苦的反应为乐。林幼真将这些整理成推文，发在社交平台约一个半小时后，更多的举报信息涌入她的账号。“平均每分钟会收到8条私信，连凌晨都在不停收到通知。”有人告诉林幼真，大邱针对中学生的深度伪造聊天群已经是第四次出现。她还了解到首尔、水原、大田等地也发现了类似的群组。从2024年8月27日出现在网络上的“深度伪造受害学校地图”来看，报告遭受深度伪造侵害的初高中及大学几乎分布在韩国的各个地区，尤其是人口和教育资源密集的首都圈和东南部的釜山、蔚山等城市。与此同时，随着受害房间的曝光愈来愈多，一些韩国女性开始向SBS等本国媒体匿名举报“电报”群组的深度伪造犯罪，并在Naver等社交平台上发帖求助。但这些帖子很快就被举报和删除。不得已，她们整理相关证据，并翻译成不同的语言，在各个社交媒体上请求各国网友及外国媒体扩散及关注。住在美国的玛丽便是其中一份子。过去一个多月里，她用于分享美国及其他国家奖学金和就业信息的社交媒体，收到了成千上万来自韩国粉丝的求助私信。一位18岁的韩国女孩用磕磕绊绊的英文在白纸上写下求助信发给了她。玛丽感到疑惑，“明明直接告诉韩国的长辈会更容易，为什么要大费周章地向一个远在大洋彼岸的人求助？”后来女孩们告诉她，因为韩国没有人帮助她们。“我意外地成为了活动家，因为我无法对这些女孩视而不见。”玛丽说。最先对这起事件作出反应的媒体是新加坡的《海峡时报》(The Straits Times)，紧接着，BBC、《纽约时报》、路透社相继报道了该事件。2024年9月，韩国女性在社交媒体上发起的“反深度伪造”全球标签活动得到了世界各地网友的参与。据玛丽反馈，这个活动不仅在韩国的趋势榜单上占据第1、2位，在欧美等多个国家也进入了前十。在海外媒体的助推下，韩国本土媒体才开始大量报道“电报”的深度伪造技术性犯罪。在2024年9月2日举行的记者会上，韩国国家调查本部发言人吴钟秀表示，在8月26日至29日四天内，接到非法合成相关的举报案件共88起，对比2024年1月至7月的297件可谓数量激增。“受害者们现在开始意识到这种行为是犯罪，所以正在积极地举报那些原本可能被忽略的犯罪。”与玛丽等人在社交平台发声不同，作为“首尔大学非法合成物性犯罪案”的受害者，张艺真和朋友们的战场是现实生活。她们的斗争是一次又一次地追踪和上诉。2024年8月28日，“首尔大学非法合成物性犯罪案”的主犯之一因涉嫌违反《性暴力处罚法》被判处有期徒刑5年。有关报道称，从2020年开始，他和其他加害者通过社交媒体盗用女性受害者的照片制作了419件、传播了1735件用于性侮辱的非法合成物。大部分受害者来自首尔大学，其中不乏他的同学，甚至熟人。“我的大学朋友在背后称我为‘妓女’和‘奴隶’。面对这一事实，我曾经认知的那个世界崩塌了。”张艺真作为受害者代表在法庭上自陈，“很长一段时间里，每天醒来面对人群对我来说都是一个噩梦。”一个看似如常的夏日午后，正在上网课的张艺真突然收到了“电报”发来的数十条消息。当她打开手机，屏幕里铺天盖地涌现的是形形色色的女性裸体，以及一系列勃起的男性生殖器——它们的主人正在对着照片自慰。图片上面的脸正是她本人，被合成到了陌生女性的身体上。“电报”上，“未读”的标志一消失，对方立刻像朋友一样搭话：“你好，你认识这些家伙（指对着照片自慰的人）吗？”张艺真没有回复，对方又发来几张“电报”聊天室的截屏，里面的42 人正在传阅她的照片，在他们口中，张艺真被称作“本季的猎物”。张艺真试图查找发送人，但除了一个像乱码一样的ID，没有任何信息。“别查了，我知道你还在看，快回答我吧。”对方仿佛在实时监视着她的一举一动，“我会告诉你我是谁的，反正你也抓不到我！”当天下午，张艺真在母亲的陪同下去了附近的警察局。说明情况之后，警察对她说的第一句话是：“‘电报’很难调查，我们会尽力。”与此同时，她的手机还在不停地收到性侮辱信息：“别太担心，我只是偶尔想**你一下”、“老实说，你看高中生的小弟弟是不是很有趣？”警察让她先把所有的内容截图，尽快填写投诉书。几个小时后，不停震动的手机终于安静下来。正当张艺真以为事情就此结束时，对方又发来了新消息：“你真的很厉害，我第一次看到你时就兴奋了。”她此时惊异地意识到，加害者就是她身边的人。随后一段时间，每当想起这些照片和信息，张艺真都感到呼吸困难，身体也不受控制地颤抖起来。心理医生诊断她患上了创伤性惊恐障碍和应激性抑郁症。她至今还记得，听完前因后果的医生带着几分怜悯感叹道：“唉，所以说（女孩）不能在社交媒体上发照片啊。”“这就是社会对性犯罪的主流看法吧。总是为加害者留下一条轻易开脱的路，最后只有受害者独自承担后果。”张艺真忍不住苦笑。2021年12月，距离张艺真报案五个月后，她收到警方寄来的通知：“由于缺乏线索，调查已被中止。”2022年，张艺真意外得知和她来自同一专业的三名女生也被非法合成的色情照片威胁过，她们转而开始询问身边的人。随着调查深入，受害者的范围扩大到包括法学院在内的四个学系。这些受害者在事发后分别向首尔西大门警察署、江南警察署、世宗警察署报案，但每个警察局都以“难以锁定嫌疑人”等理由做出了停止调查或不予立案的决定。尽管张艺珍身边的人不断告诉她“尽快忘掉”才是解决问题的最佳方式，但在她看来，“唯一需要做的，就是抓住加害者并对他们施以惩罚。”她召集了朋友们重新梳理线索，并开始寻求原“火花”追踪团成员之一元恩智的帮助——正是这个组合在2019年调查并揭发了令世人震惊的“N号房”事件。但鲜为人知的是，在此过程中，两名成员就已经发现“电报”聊天室中有人利用熟人照片合成色情影像，并帮助一名受害人抓获加害者。![]()
▲2020年3月25日，韩国首尔，“N号房”头目赵主彬（中）被警方移交检方作进一步调查。赵主彬在2021年10月14日被韩国最高法院判处42年有期徒刑 图/视觉中国2022年8月，嫌疑人崔宇成（后来证实为加害者之一）被逮捕和拘留。然而，5个月后，因未能找到证据照片，警方通过短信告知张艺真：“被告崔宇成，决定不送检，结论为无罪。”2023年4月，张艺真等受害者们对警方的不予起诉决定提出异议，并向首尔中央地方检察厅申请复审。四天后，异议申请被驳回。她们随后又向首尔高等检察厅请求重新审查中央检察厅的不起诉决定，再次被驳回。最后，她们能做的只有一件事：向法院申请重新审查检察机关对崔宇成的不起诉决定是否公正。据韩国律师赵在光介绍，“再审申请的通过率只有1%。”2023年11月21日，首尔高等法院第30刑事部在审查了相关内容后，认为将案件提交审判是合理的，推翻了此前调查机关的决定，对崔宇成作出了公诉决定。比起“首尔大学深度伪造性暴力事件”中警方和检察系统的表现，韩国政府在2024年8月这次的深度伪造性犯罪事件中的反应要迅速不少。8月27日，韩国总统尹锡悦在国务会议上表示，“我们任何人都可能成为这些数字性犯罪的受害者。相关部门要通过彻底的现状调查和深入的调查来根除这种数字性犯罪。”目前，韩国现行法律中唯一适用于深度伪造性犯罪的条款是《性暴力犯罪处罚特别法》第十四条之二。但正如一位性暴力犯罪专业的律师指出的那样，该条款“最大的问题”是仅惩罚传播者，对持有或购买视频的需求方毫无制裁。因此，近期韩国政府正计划设立“虚假视频持有罪”条款，并将处罚标准从现有的“5年以下有期徒刑或5000万韩元以下罚款”提升至“7年以下有期徒刑”。至于一直被诟病“不作为”的警方，韩国政府决定允许警察以假身份进行调查，以抓捕深度伪造淫秽物品的制作者——至今，只有针对儿童和青少年的数字性犯罪调查中允许使用该方法。同时，韩国警方宣布从2024年8月28日起对深度伪造性犯罪进行为期七个月的集中打击。此外，韩国政府计划整合各部门现有的举报接收方式，以便于受害者举报并快速获得所需的支持——包括删除虚假视频、提供咨询、法律和医疗支持。▲2024年8月29日，韩国首尔，商店售卖的电视机正在播放韩国总统尹锡悦的国政报告会 图/视觉中国不过，对尹锡悦政府的怀疑也随之而来。8月29日下午，首尔女性会等团体在首尔江南站前召开紧急记者会，敦促尹锡悦政府全面修改“不存在结构性性别歧视”的政策基调。三年前，作为总统候选人，尹锡悦曾提议“废除女性家庭部”，并在2023年大幅削减防止女性暴力和支援女性暴力受害者的预算。“这样的总统居然在27日的国务会议上强调‘根除数字性犯罪’？”集会成员批评道。当针对尹锡悦政府的质疑声不断响起时，一些人则对以上举措表示异议。内阁会议召开的同一天，改革新党议员李俊锡曾在国会科学技术信息通信委员会全体会议上表示，深度伪造聊天室的用户数达到22万人是“被夸大的威胁”。他认为“电报”中的非法数字合成物制作群体用户还应当包括海外用户，按韩国人在“电报”用户中的占比计算，里面只有726名韩国人。因此他担心尹锡悦总统的指示可能会“引发过度监管”。对此，“火花追踪团”的另一位成员、前共同民主党应急对策委员会主席朴智贤于28日在社交平台发文批评称，“深度伪造的受害者正在全国各地不断出现，尚未防止受害再次发生，却优先谈论‘过度监管’，这不是一个有基本常识的政治家应有的态度。”一种观点指出，这些与舆论脱节的发言主要是为了迎合该党主要支持群体。在韩国2024年举行的4·10大选中，李俊锡所属的改革新党在政党投票中获得了3.61%的支持率，按年龄段划分，该党主要支持群体为20至30岁男性。
