韩国出现“深度伪造”技术下的新“N号房”案件!“AI换脸”!

文摘   2024-09-03 11:09   四川  


近日,韩国曝出“Deepfake”(深度伪造技术)事件,被认为是采用新犯罪手段的“N号房”案件重现。


Deepfakes是使用人工智能生成的技术,将个人的声音、面部表情及身体动作拼接合成虚假内容。


韩国网民在通讯软件“电报”(Telegram)上发现大量聊天群,其中有成员创建和分享露骨的性“深度伪造”图像,对象涉及未成年女孩。


据外媒报道,在付费deepfake电报频道,男性订阅用户提供女性照片,交钱后由频道制作成色情图片。



曾曝光“N号房”事件的前共同民主党紧急对策委员会共同委员长朴智贤表示,目前全国涉及深度伪造犯罪的人数可能达到22万(包含可能重复的情况),众多女性因此陷入不安和恐惧之中。


因为针对年轻女性的深度伪造色情内容泛滥,韩国总统敦促当局采取更多措施来“根除”该国的数字性犯罪流行问题。


性剥削材料的受害者通常是未成年人


据韩媒报道,针对女性的深度伪造犯罪在韩国日趋猖獗。几日前,有多名韩国女性通过社交媒体发声,称她们在一些社交媒体上,特别是“电报”(Telegram)群组中,发现又一个“N号房”案件,韩国男性疑似大量分享传播周围女性的淫秽影像。


群组中传播的淫秽影像经深度伪造换脸而制成。在付费的deepfake电报频道中,男性订阅用户提供女性照片,交钱后由频道通过深度伪造技术制成色情传播材料。


某些群组甚至要求参与者进行现役军人身份验证,并通过向受害者发送伪造照片,以及分享受害者的反应,来换取群组的入场资格。涉及的群组参与人数不等,少的几百上千人,多的超过十万人。



目前,不断有受害学校及被害者信息流出。在社交网站流传的受deepfake事件影响的学校名单已经超过百所,并且还在增加。


该名单由一名匿名用户发布,其中不仅包括韩国的中小学,还涉及海外的韩国国际学校。


Deepfake事件曝出后,韩国女性称,有网民还在社交平台上对女性进行二次加害。一名韩国女性称,女学生们在社交媒体上表达“将社交媒体上的所有照片拿下来”的提醒时,同校男生却说,“你们太丑,根本不会用在那些东西上”“不要把我们当成潜在的犯罪者”。目前,韩国女性计划在地铁站前举行游行示威。


新技术下,“N号房”案件重现


此前,韩国也曝出震惊世界的数字性犯罪案件——“N号房”事件。


2019年,韩国社交媒体消息称,韩国男性利用“电报”(Telegram)聊天室勒索数十名年轻女性进行性行为,这起丑闻被称为“N号房”事件。


据外媒报道,该案件被害女性至少有74人,其中16人为未成年,最小年龄受害者为年仅11岁的小学生,曾加入过房间共享非法传播物的用户多达26万人。2021年,“N号房”主犯赵主彬被判处有期徒刑42年。


“N号房”事件的发生推动了韩国《Telegram“N号房”事件防治法》的出台,包括《关于性暴力犯罪处罚的特例法修订案》《刑法修正案》《关于限制犯罪收益隐匿的规定及处罚的法律修订案》等内容。近年来,韩国修改法律,加大对数字性犯罪的打击力度。


但是网络上的性犯罪仍然猖獗。外媒报道,韩国警方称,网络上深度伪造性犯罪激增。


2024年前7个月共报告了297例案例,高于去年全年的180例和2021年的160例。在过去三年中,青少年犯下了超过三分之二的罪行。


8月27日,韩国总统尹锡悦表示,最近针对不特定人群的深度伪造技术视频通过社交媒体迅速传播,受害者通常是未成年人,而加害者大多是青少年。


他指示当局“彻底调查和解决这些数字性犯罪,以根除它们”。


据外媒报道,虽然韩国现行法律对深度伪造性犯罪已有明确处罚规定,但政府机构却未能拿出任何严厉措施。


警方表示,“电报”服务器设在境外,且涉案人可随手删除淫秽影像和自己发布过的信息,侦查难度较大。韩国警方计划以市、道警察厅网络性暴力调查组为中心积极展开整治行动。


韩国国会女性家庭委员会于27日表示,将于9月召开紧急对策会议,商讨相关解决方案。国会相关网站上还出现一份征求公众同意的请愿书,要求严厉惩罚“电报”平台性犯罪的肇事者。


尹锡悦在上任总统前表示,韩国女性没有遭受“系统性性别歧视”,但韩国的女性地位一直饱受争议。


在韩国上市公司中,女性仅占据5.8%的高管职位,平均薪酬比韩国男性低三分之一,这也使得韩国成为世界上任何富裕国家中性别薪酬差距最大的国家。


来源:央视网

斓月推文馆
日常分享,每日推送社会热点
 最新文章