中小学受害者激增，10天新增238起！韩国警方：侦查难度大
时事
2024-09-14 22:25
广东
时隔四年，韩国再现“N号房”丑闻。把女性面部合成到不雅视频中并大肆传播的深度伪造技术犯罪，近半个月来在韩国掀起舆论风暴。8月以来，韩国网民使用的社交媒体“电报”上，被发现存在多个传播和分享该类型色情内容的群聊，其中最大的一个聊天室成员超过22万人。被波及的受害者群体，包括女教师和女兵等，还有大量未成年的学生。风声鹤唳的学生们，换掉了自己在社交媒体上的真实头像。首尔市教育厅厅长称，首尔有的老师“已经拒绝将自己的照片放入学校年刊，而是用画像代替”。社会恐慌情绪不断蔓延，韩国总统尹锡悦在内阁会议上呼吁对这些利用数字技术犯罪的案件展开“彻底调查”。“我们任何人都可能成为数字犯罪的受害者。”韩国警方宣布，从2024年8月28日至2025年3月31日开展集中打击深度伪造性犯罪的专项行动，还将扩大卧底调查范围。但警方同时表示，“电报”服务器设在境外，且涉案人可随手删除影像和自己发布过的信息，侦查难度较大。深度伪造的核心原理，是利用深度学习算法，将目标对象的面部“嫁接”到被模仿对象上。人工智能技术方兴未艾，有关深度伪造引发的假新闻、性犯罪等问题日渐凸显。早在今年5月，韩国媒体就曝光了一起深度伪造案件。两名首尔大学毕业生，涉嫌在2021年7月到2024年4月利用深度伪造技术换脸合成不雅照片和视频，在“电报”平台上私密传播，受害女性达61人。两名嫌犯先后于今年4月和5月被捕。这起案件，揭开了深度伪造犯罪在韩国泛滥的冰山一角。8月底以来，韩国警方在“电报”平台上，发现大量与学校、医院、甚至军队有关的疑似分享淫秽影像的群组。这些不雅影像，正是经深度伪造换脸而制成。这些群组参与人数少的几百人，最多的超过22万人。韩国警方说，这类性犯罪事件的受害者人数尚难以统计。深度伪造技术的受害者，通常在相当长的时间后才会意识到自己的图像被犯罪分子利用。这留给了犯罪分子销毁证据的时间。韩国国防部本月9日称，该部工作组调查发现，韩国军队内部有24名深度伪造犯罪的受害者。更令人触目惊心的是，受害者中有大量未成年人。韩国教育部对全国17个地方教育厅的调查显示，今年初至9月6日，全国小学、初中和高中共发生434起利用深度伪造技术实施的性犯罪，受害者数量共计617人。其中，受害学生588人，教职员工29人。从调查数据看，利用深度伪造技术的犯罪数量呈激增势头。8月28日至9月6日仅10天内，韩国就新增238起涉中小学的相关案件。从年初到8月27日，相关案件总数为196起。案件出现激增的原因，在于越来越多人意识到身边的深度伪造犯罪行为。韩国警察厅国家搜查本部长禹钟寿表示，受害者积极报告了很多过去可能被忽视的隐秘犯罪。处于此次深度伪造性犯罪旋涡中心的，是即时通讯软件“电报”。作为一款匿名社交软件，“电报”（Telegram）用户的个人信息完全隐蔽，姓名也可以随意修改。它的海外服务器避开了韩国国内的安全审查，所有发送的信息都会自动删除。2019年臭名昭著的“N号房”犯罪事发地，就是在“电报”的秘密聊天群组内。“N号房”案当年经韩国媒体披露，犯罪嫌疑人通过胁迫受害者拍摄淫秽视频等方式，将相关内容在聊天群组传播并以此牟利。聊天室的名称按照数字排序，统称“N号房”。韩国警方当时公布的受害者达1154人。最终，法院判处该案主犯40年刑期，另有其余数名共犯获刑5-15年不等。此次在韩国引发轩然大波的案件，被韩国舆论视为“N号房2.0”。与韩国本次事件几乎同时发生的是，“电报”创始人兼首席执行官帕维尔·杜罗夫于8月24日遭法国警方拘留。面对法国检方提出的非法交易、儿童色情、贩毒、欺诈等6项指控，杜罗夫坚决否认，声称“电报”完全遵守欧盟法律。杜罗夫之所以矢口否认指控，关键在于法国检方尚不掌握“电报”储存资料的服务器。▍“电报”创始人兼首席执行官帕维尔·杜罗夫。图源：央视新闻这也是韩国警方的调查难点。韩国警方将服务器位于境外，列为本轮深度伪造性犯罪案件难以追查的原因。由于无法掌握“电报”服务器和相关人士的具体情况，韩国警方正转而寻找与法国检方及其他国际组织合作调查“电报”的方法。“电报”在一份声明中表示“一直积极删除韩国报告的违反平台服务条款的内容，并将继续这样做。”在此次韩国舆论风暴中，不乏要求封禁“电报”的呼声。令韩国舆论担忧的是，这种新型犯罪呈现出明显的低龄化特点。韩国媒体报道称，因为“觉得有趣”、“只是在开玩笑”、“用熟人的照片P图更真实”，许多年轻人盲目效仿。“这不是突然在青少年中爆发的，而是一直存在。”首尔青少年文化中心主任李明和表示，“深度伪造正像游戏文化一样传播开来。”釜山教育厅公布了今年6月的一起案件。4名初三学生涉嫌用同一学校的18名女学生的面部照片，与他人形象合成不雅照片并进行共享。韩国警察厅厅长赵志浩披露的数据显示：今年1-7月警方破获深度伪造犯罪297起，共有178人被捕。这其中，70%以上的加害者为10-19岁青少年，而30岁以下的年轻人的比例高达95%。鉴于这些青少年大多数“在毫无负罪感的情况下犯案”，韩国警方将设置专职校警对学生教育改造，告知学生深度伪造性犯罪是重大犯罪行为。韩国教育部近日还成立了“应对校园深度伪造事件紧急工作组”，宣布违规学生可能会被开除。美国一家网络安全机构在一份题为《2023年深度伪造技术现状》的报告中指出，“韩国是深度伪造性犯罪目标最多的国家”。AI换脸制作的露骨视频中，一半的受害者为韩国人。全球前10位被AI换脸最多的人中，有8位为韩国歌手。韩国性暴力救助中心认为，此次事件再次暴露韩国社会长期存在的痼疾。在学校、住处等日常生活场所，非法拍摄、传播、合成等现象经常发生。“我们是时候通过教育和平台监管等组织合作来解决问题了。”根据韩国现行法律，制作露骨的深度伪造影像并意图传播，可判处5年监禁或5000万韩元（约合26.5万元人民币）罚款。共同民主党党首李在明说，根除韩国深度伪造犯罪，需要在国会立法层面制定对策。韩国政府已经承诺将制定更严格的法律。执政党国民力量党和政府表示，将立法加强深度伪造性犯罪处罚力度，包括将传播深度伪造色情视频的刑期上限由5年提高至7年，以及降低“触法少年”（10岁以上未满14岁不受刑事处罚）最低年龄标准。韩国媒体（韩联社、中央日报、朝鲜日报、韩民族日报）、纽约时报相关报道![]()
广州日报媒重点实验室出品
