让一个人名誉扫地，需要多长时间？
答案是，可能只要5分钟。
5分钟，女高管证件照变裸照
Catherine Abel-Pattinson是新西兰网络安全组织Netsafe的首席执行官。
在接受1 news记者采访时，她答应了用自己的照片试验一下最近火爆全球的Deepfake（深度伪造）换脸技术。
Catherine（左）和记者
然后，把这张照片传到Deepfake网站上，点击“脱衣”按钮，仅需几分钟，一张她赤身裸体的照片就生成了。
整个过程太快了，Catherine表示：“这张照片看起来真的和我一样，我会说这100%就是我。”
这只是一个试验，但如果她突然在网上看到自己从没拍过的“裸照”，知道已经在其他地方传播过，会是什么感受？
“作为一名女性，这真的会让我发狂。如果这事发生在青少年身上，有人威胁要把这些照片传播到学校，造成的打击难以想象。
“不幸的是，这种事情发生得越来越多了，用别人脸部的照片伪造裸照太容易了，只要5分钟，可能就会毁掉一个人的生活。”
02
新西兰有65名学生“裸照”被传播
Deepfake是一种通过AI和机器学习技术生成的高度逼真的虚假媒体内容，包括视频和音频。
只需一张照片，任何人都可以通过网络工具创建逼真的色情图像，并将其发布在社交媒体上。
今年闹得沸沸扬扬的韩国Deepfake时间就是因为韩国男性被爆出使用这项技术将身边的熟人女性换脸成色情图频，在聊天室疯传。
在此过程中，加害者还毫不犹豫地公布受害女性的身份进行威胁，索要钱财。
现在，利用AI换脸伪造色情内容的影响已经来到新西兰。
已经有两所学校的学生被卷入其中，南岛坎特伯雷一所学校有15名学生深受影响，另一所匿名的学校有50名学生成为受害者。
这其中包括不同文化背景的女生，这些照片在网络上被传播可能会带来严重后果。
Catherine用自己的照片做实验的原因是，作为一个防止网络伤害组织的负责人，她和同事一直在帮助被AI换脸伤害的人。
“我们每天都会接到有自杀倾向的电话，因为有人发了关于他们的色情图频，但他们从没拍过那些东西。”
Catherine被换脸的照片只是没穿衣服，这些换脸网站还支持摆出非常露骨的姿势。考虑到最小的受害者才11岁，这是一个很严重的问题。
她表示，图像逼真度极高让她震惊，若此类图片未经同意被分享，受害者尤其是青少年可能会受到严重的心理创伤。
03
“难道要出了人命才有人管吗？”
然而，新西兰在处理AI生成的深度伪造色情图像方面，法律还没有跟上技术的快速发展。
根据现有的《有害数字通信法》，未经同意发布真实的色情图像已经违法，然而，法律并未涵盖AI换脸色情影像。
被换脸的人要想维权，必须证明发布者有明确的意图伤害自己，但这在实践中往往非常难以证明。
唯一的办法就是民事诉讼。但这意味着受害者需要自己买单。
技术法律专家Arran Hunt说：“结果就是有钱的一方往往会获胜，整个过程可能持续数年，而法院只是下令删除并道歉。仅此而已。”
针对这种情况，司法部长Paul Goldsmith承认AI生成的色情影像带来了危害，但表示政府并没有立即采取行动的紧迫性。
而Hunt对于新西兰政府的这种反应感到担忧：“难道真的要等哪天有人因此丧命，警方才会重视吗？”
ref:https://www.1news.co.nz/2024/09/28/explicit-deepfake-porn-is-on-the-rise-devastated-victims-include-nz-teens/
