一些人将深度伪造技术用于犯罪活动。
图片来源：REUTERS
Madeleine North
论坛议程高级撰稿人
深度伪造（即逼真的虚假视频、图片或音频片段）正被用于金融犯罪和性犯罪活动。
专家介绍了一些识别深度伪造的方法，但这些方法并不是万无一失的。
世界经济论坛的《网络危害类型学》报告旨在提供一种共同的通用语言，以促进数字安全。
当你看到泰勒·斯威夫特在赠送厨具，或特朗普在与马斯克共舞，你可能知道这是深度伪造。但是，深度伪造（利用AI生成极其逼真的虚假视频、图片或音频片段）并不总是轻松有趣或易于识别的。2023年底，深度伪造的录音导致一位热门候选人在斯洛伐克选举中受阻。2024年初，诈骗犯伪造视频会议，导致一名香港员工被骗2500万美元。2024年是全球大选年，政治候选人对深度伪造感到紧张是可以理解的。这种紧张情绪也是合理的——新的研究显示，冒充政治家和名人“以影响公众舆论”是深度伪造技术最常见的误用，超过了网络犯罪。至少有60%的美国人对深度伪造感到担忧。
图片来源：Statista
有60%的美国成年人对深度伪造感到担忧，识别深度伪造将成为一项重要技能。麻省理工学院媒体实验室列出了一些值得注意的深度伪造的明显特征，包括：2. 眼睛和眼镜中的反射：是否一致？是否在视觉上合理？在深度伪造的图像中，眼睛的反射通常不一致，如右上方的绿色和红色标记所示。
图片来源：Adejumoke Owolabi/赫尔大学
英国赫尔大学的一项新研究指出，眼睛可以说明一切。如果两只眼睛的反射相匹配，那可能是真实的图像，如果反射不一致，则很可能是伪造的。“假阳性和假阴性的情况也可能出现；这种方法不是万无一失的，”研究人员之一Kevin Pimbblet教授提醒道，“但是，如果把检测深度伪造看作一场军备竞赛，观察眼睛反射的方法为我们提供了一份基础的进攻计划。”深度伪造的色情内容（对个人图像进行处理，使其看起来正在进行性行为）正成为一个大问题，尤其是在韩国。据BBC报道，韩国正面临“数字性犯罪大流行”。据路透社报道，韩国警方今年已经处理了297起深度伪造的性犯罪案件，其中大部分受害者和犯罪者是青少年。在英国，一半以上的未成年人担心自己成为深度伪造色情内容的受害者。政府正采取应对措施，生成含有明显性内容的深度伪造图像将定为刑事犯罪。2023年深度伪造诈骗案件的报告数量增加了1740%，但美国目前没有任何立法来禁止或监管深度伪造。不过，联邦贸易委员会正提出新的规则草案，以禁止生成和传播冒充他人的深度伪造内容。在国家立法的同时，企业和社会也正努力通过其他方式应对深度伪造。例如，斯坦福大学正使用AI来检测AI的误用。斯坦福大学开发了一款原本用于帮助编辑在视频中无缝插入或删除发言片段的工具，后来这款工具却被用来伪造内容。为此，研究人员开发了一种检测工具，可以发现80%使用了唇形同步技术的假视频。Seal Storage首席商务官Scott Doughman指出区块链技术也有助于应对深度伪造问题，因为它可以“缩小与单点故障相关的漏洞”。KnowBe4 Africa高级副总裁Anna Maria Collard认为，对公众进行教育，让其对待网络内容“零信任”是另一个重要因素。Incode公司创始人兼首席执行官Ricardo Amper则表示，“真人验证”正成为生物识别身份系统中的另一个关键要素。“例如，如果安检要求上传自拍进行面部识别，犯罪分子可能会尝试使用照片或视频，而不是实时自拍。真人验证可以帮助应对这一问题，判断自拍是否是真人。”世界经济论坛的《网络危害类型学》报告将深度伪造归类为“具有欺骗性的合成媒体内容”。报告旨在提供一种共同的通用语言，以促进数字安全。AI是一项不断发展的技术，“可能会造成新的伤害或加重现有的伤害”。报告旨在提供一个全面的框架，助力利益相关方建立一个更加安全的数字生态系统。以上内容仅代表作者个人观点。本文翻译自世界经济论坛 Agenda 博客，中文版本仅供参考。欢迎分享至朋友圈，申请转载请在本文下方留言。
翻译：狄陈静 | 编辑：王灿
世界经济论坛是一个独立且中立的平台，旨在集合各方观点讨论全球、区域及行业性重要话题。
欢迎在微博、微信视频号、抖音和小红书关注
“世界经济论坛”
