近日,韩国曝出“深度伪造”(deepfake)事件:韩国网民在即时通讯软件telegram上发现大量聊天群,其中有成员创建和分享露骨的AI换脸色情图像和视频,被换脸的受害者涉及多所学校的未成年女孩。这起事件被称作是“N号房”案件的重演。事件发生后,有多位韩国女性在中文社交平台上发帖求助,“在发生N号房事件时,几乎没有加害者被捕,也没有披露加害者名单”,因为害怕此次事件也会安静地过去,这些韩国用户在中文社交平台上发帖,希望能够扩大事件的影响力。在AI技术蓬勃发展的背景下,女性被资源化的程度也更上一层楼,“无中生有”式的AV生成,让本就狭窄的女性生存空间变得增加逼仄。结成更牢固的女性集体团结,防范AI技术带来的人身安全风险,女性面临的挑战也越来越多了。
一、深度造假与网络声浪:我的生活不是你的AV
新传学子们应该对“深度造假”/deepfake这个词不陌生,在学科内指的一般是使用AI技术进行“面部操作”,生产假视频,制造假新闻。这次韩国发生的deepfake事件将这个词又拉回了它最原初的出处。“深度造假”这一概念最早源自一个名为deepfakes的用户,该用户在Reddit上发布视频,将娱乐明星的脸换到色情视频上,得到了大量关注和转发。后来该用户被举报,但是换脸算法却成为了开源代码供免费下载使用。
这次韩国deepfake事件的受害者已经不仅仅是公开的明星爱豆,甚至扩展到了未成年素人学生。韩国女性在女性权益争取中一直表现得相对积极,“我不是你未来的妻子,我是你未来的老板”“我的生活不是你的AV”“我的头发可以再长,但是我的姐妹已经回不来了”,即使是在游行示威中喊出这些口号、女权主义运动风起云涌的韩女当中,她们在面对侵害时也只能无奈向他国女性求助。
互联网创造出的“发声”(callout)文化,使得厌女症和性骚扰获得更多关注并成为公共议题。社会问题只有变成可见议题被公众言说时,才能激发抗议的活动,因此话语表达也蕴含着政治维度。网络行动主义与话语行动主义关注公民的网络参与和在线互动对政治的影响,网络行动、话语表达也被视为某种新政治文化的特征。只有制造出巨大的声浪和讨论,女性的困境才能被看见,房间里的大象也不再被迫隐形。
二、“再次重逢的世界”:AI换脸的风险规避
但是从另一方面来说,引起大规模讨论的通常不是性别意识进步的喜讯,而是对女性造成重大伤害的消息,如印度男子侵害女医生、青岛地下代孕机构等事件进入公众视野的议题中,揭示的往往是女性在性别结构中受害的社会现实,这使得相关讨论中通常伴随着大量女性用户对于现实生活不公正经历的控诉、揭发、与受害者的共情。这无意间又深化了社会对女性弱势地位的印象。对事件本身的讨论其实并无助于类似事件的防止和规避,从更深层次上探讨如何行动,才更有可能改变现状。
AI换脸技术作为智媒时代的一项新技术,在为部分行业提供便利和新发展方向的同时,也伴随着对媒介伦理和社会道德的冲击。提升大众媒介素养,培养辨别是非的能力,已成老生常谈。针对拿女性的脸生成色情视频的事件,相关部门和社交媒体加强调查和监管,让制造者和传播者得到应有的惩罚才是更为有效的解决路径。
🪄
ꕤ⋆⸝⸝Idealism
「去更大的世界 做更有趣的人」
小破所常驻广子