1995年，尼葛洛庞帝在《数字化生存》一书的前言中写道：“计算不再只是和计算机有关，它决定我们的生存”。

将近20年后，尼葛洛庞帝或许不会想到，在数字化生存的生存环境之下，由计算机作为底层技术的深度伪造，将促成“数字性犯罪”的诞生。

今年8月，大量利用深度伪造制作色情合成物的“电报”聊天群在韩国的社交媒体上曝光，受害者遍布韩国全国，涉及明星、军人、老师、护士、学生等不同群体，多为女性。

由于2019年，韩国还发生活类似侵犯女性权益的N号房事件，故而此次事件也被称为“韩国N号房2.0”事件。在该事件中所涉及到的“深度伪造技术”（Deep Fake），是一项通过人工智能技术，特别是深度学习算法，实现的声音、图像或视频内容的篡改和伪造技术。

这种技术能够实现人脸替换、表情模仿、语音模仿等效果，使得伪造的内容在视觉和听觉上具有很强的欺骗性。除了照片和视频换脸，现在已经有技术可以达到只需提供一段原声，就能生成几乎完全还原的AI语音。

当技术不断进步，使用接入的门槛逐渐降低，掌控技术之后，人类该如何使用？这个问题一直是技术伦理中永恒的话题。

深度合成的利刃：自由接入下的技术作恶与赋权使用

对于技术对社会发展的影响，马歇尔·麦克卢汉曾指出，“一切技术都是媒介，一切媒介都是我们自身的外化和延伸，每一种技术都创造一种环境。”眼下，借助继续进阶的人工智能与深度学习，深度合成技术不断进入大众传播与用户使用的视野。

所谓深度合成（deep synthesis）指的是依托人工智能深度学习算法和模型生成文字、图像、音频、视频的技术，其核心特征为具有高度真实性。作为一种技术，深度合成为以往诸多的不可能提供了解决的契机。

比如，深度合成技术的出现大大提升了媒介的可供性，人们被媒介技术束缚的越来越少，它增强了人们在媒介生存中的临场感体验，数字虚拟化生存越来越突破空间距离的限制，让更加真实、立体的面对面体验成为可能。

然而，正如乌尔里希·贝克所认为的，“任何一项技术的产生与运用在带来机遇与便捷的同时亦将产生新的挑战。”“深度合成”技术可以说是一把双刃剑，而“深度伪造”就是那道颇具伤害性的锋芒。

“深度伪造（Deepfake）”一词由深度学习（Deep Learning）和伪造（fake）组合而来，是一种能够将人的面部表情和声音与另一个人的图像和声音结合起来，从而创造出虚假的视频或音频的人工智能技术。

该技术走进大众视野并引发广泛关注最早可追溯到2017年底基于该技术生成的“伪造视频”的广泛传播。当时美国社交网站Reddit上一位名为“deepfakes”的用户发布了用好莱坞女演员的脸替换到色情女演员身上的伪造视频，并吸引了成千上万的用户涌入专门的Deepfake Reddit社区。

《恋人：泰勒·斯威夫特巴黎演唱会》剧照，泰勒·斯威夫特曾受深度伪造侵害

我们常说，社交媒体的出现与使用为用户赋权，提供了表达和对话的平台，然而这种赋权也群体极化和网络暴力的温床。随着Deepfake技术的推广和使用门槛的降低，不法分子开始利用这项技术制作和传播虚假信息、政治抹黑、以及侵犯个人隐私和权利的内容，如色情视频和不实新闻报道。

然而，数字性犯罪成为深度伪造首当其冲的危害。从美国到韩国，一个可见的社会现象是深度伪造滥用正在成为针对妇女暴力的新前沿。

侵害泛滥的根源：性别歧视下的肆意妄为与“权利应得”

作为研究技术对社会影响的代表人物，学者梅塞尼曾说，“技术本身是手段和工具，使技术成为善和恶的，是创造和使用技术的人。”当深度伪造技术一些别有用心的用户使用之外，技术作恶的也将不断放大。

2020年，始于2018年的网络性犯罪案件“N号房”事件被曝光。该事件中犯罪分子迫使未成年女性等受害者拍摄不雅视频和照片，并在被称为“N号房”的Telegram聊天室内传播。

进入“电报”（以保密性著称的即时通信软件）聊天房，上传一张脸部照片，不到5秒钟，采用了深度伪造技术（Deepfake）的机器人（bot）就能合成一张真假难辨的照片——就当前而言，深度伪造技术已经可以把不同人的声音、面部及身体像拼图一样随意拼接，制作成各种影像乃至视频。

早在韩国曝出相关案件前，韩国女性的安全感就长期处于低位。有记者整理韩国检察厅公布的统计数据，指出2018年韩国性犯罪发生数1370件，但从2022年已突破1万件；在总体性犯罪型态的排名与比例中，网络性犯罪也从2018年排行第5位、仅占4.5%，上升到2022年的第2位，占27.2%，仅次于性骚扰。

迈向技术赋权的时代，韩国Deepfake性犯罪案件数量一直呈上升态势，从2021年的156起增至2023年的180起，今年仅前七个月甚至已经累计报告297起。其中，案件受害者以年轻女性为主，主要包括学生、教师和士兵，且近三分之二的受害人都是青少年。

无论是当下令人震惊的数字性犯罪，还是以往的性犯罪，韩国始终有着居高不下的数据。值得关注的是，这样的社会事实，也让越来越多女性拒绝进入传统的父权制式家庭，响应欧美流行的#boysober（编者注：直译为“男孩清醒”，指女性给自己设定期限，不跟男性约会，不跟男性发生性行为，让自己处于脱离男性性缘关系的环境）热潮。

韩国互联网上保守化潮流日益明显，不少男性为“非自愿独身者”（Incel，Involuntary celibate），他们在日常生活中大多与女性没有太多接触，但会在虚拟世界匿名发表带有侮辱性的言论。

故而，深度伪造性犯罪的激增也被被认为与近些年持续流行的这波“非自愿独身”文化密切相关。该词的流行还要追溯到2014年，美国一名自称“非自愿独身者”的22岁青年，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六人死亡，十四人受伤。他在随后留下的一封长达137页的宣言中表达了自己从未发生过性行为的愤怒与怨恨。

澳大利亚学者凯特·曼恩在《应得的权利》中介绍，这股情绪成为如今网络厌女的源头，部分言论将女性视为应该服从男性的性对象，认为女性低于男性，并隐含对性和女性身体的“惊人权力感”。

根植于社会观念的厌女心理，以及逐渐兴起的“非自愿独身”心理，都彰显了此次深度伪造事件的社会动因。对于使用聊天房的用户而言，他们站在应得的权利立场上，肆意妄为地进行着侵犯与伤害。

深度伪造的风险：事实消解下的信任危机与社会分离

与“N号房”事件不同的是，在Deepfake事件中，此次非法淫秽内容通过深度AI技术合成，许多受害者在完全不知情的情况下便成为了裸体合成图的“主角”。由此可见，深度伪造作恶，首当其冲受害的便是个体隐私的受害。

2020年3月25日，韩国首尔，“N号房”头目赵主彬（中）被警方移交检方作进一步调查。赵主彬在2021年10月14日被韩国最高法院判处42年有期徒刑。

近年来，已有报道指出，Deepfake技术被用于制作政治人物的虚假演讲视频，或是将名人的面孔无缝替换到不雅视频中。这种行为不仅侵犯了当事人的肖像权和隐私权，还可能对其名誉造成不可逆转的损害。

比如，国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂，有网友调侃称“国庆上网被雷军骂了整整7天”。

10月7日晚，针对网友“为何骂人”的询问，雷军回复了三个愤怒表情。连日来，在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。

尼葛洛庞帝在《数字化生存》一书中提出了“数字化生存”的概念，他认为伴随着科技的不断发展，数字化生活已经成为一种不可逆转的趋势，人们将在一个高度虚拟化的环境中，完成学习、工作、生活。

与数字化生存相伴而生的网络空间中的数字化身，这意味着个人的信息、肖像、声音等个体身份特征都形成了数字备份。如今，数字化生存迈向数字孪生，经过深度伪造工具的抓取和学习之后，身份盗用的危害也随之形成。

从暴力模仿犯罪的研究出发，深度伪造犯罪的快感以及惩罚规制的缺位也有将其导向真是犯罪的恐慌。维也纳大学哲学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详细分析了这类内容如何让人们产生心理联想。“当学生对同学进行深度伪造时，这可能会改变他们对对象的看法，并在现实生活中造成进一步的不尊重、骚扰甚至虐待。当这些对特定女性产生的心理联想，导致对所有女性的联想时，偏见就会进一步强化。”

对于新闻业来说，深度伪造也将加剧虚假新闻的泛滥，以及事实核查的难度。英国《卫报》指出，在只需点击鼠标就能让虚假信息传播到各地的世界里，一个关键问题在年轻一代心中显现：面对虚假信息的威胁，我们该如何捍卫真实？

在日常事件的新闻报道与追踪中，深度伪造信息的发布可能造成舆论场上，舆论意见的不断翻转，用刺激性的信息来牵引公众注意力，冲击主流媒体对舆论的引导作用，激化社会不同意见群体的矛盾，削弱主流意见对社会的弥合作用等。

此间，深度伪造内容的传播可能加剧社会分裂和偏见，影响公众对于重要社会问题的看法和立场。比侵犯隐私更深一层的事，深度伪造也在不断催化，传播秩序的失范和舆论认知的偏颇，从而导致社会合意的撕裂以及社会恐慌感的加深。

魔盒开启的遏制：伦理规范下的社会合力与技术向善

乔治华盛顿大学教授玛丽·安妮·弗兰克斯博士专门研究民权、科技和言论自由。她在该文章中提醒读者：这类应用程序和人工智能工具可能会导致新一代年轻人产生“我的愿望就是人工智能的命令”的心态。

在弗兰克斯博士看来，这些网络空间中，男性对女性身体的特权感往往完全不受约束。用户们互相依赖，营造出一种错觉——即他们是宇宙之王，他们无需听命于任何人。他们甚至认为制作和传播被算法武器化的报复性色情内容只是一种个人爱好。

“如果我们不小心，我们不仅会创造新一代的受害者，还会创造新一代的施虐者。”弗兰克斯博士如是说。这也意味着，一旦深度伪造的磨合打开，色情生成仅仅只是一个开始。

同时，在深度学习等能力的赋能之下，深度伪造还有持续进化的能力。2014年，由蒙特利尔大学提出的生成对抗网络（GAN）不仅提高了数据生成的逼真程度，也大大降低了深度合成的门槛。

近十年间，深度伪造技术日趋成熟，生成式AI横空出世后，扩散模型（Diffusion Model）训练路线的Deepfake数量不断增加，并逐渐从单一模态向跨模态或多模态演变。如今，这项技术的门槛与成本已降低到任何一个会上网的普通人都可使用。英国政府网站称，近年来，“深度伪造”变得越来越普遍，全世界每个月的这类图像浏览量达数百万次。

从成长的逻辑出发，面向技术作恶，我们仍然需要从技术入手加以规制。

9月1日，中科院工程师张欣怡团队选择将其参加全球Deepfake攻防挑战赛的AI模型面向全球开源，这一行为引起社会公众的强烈支持。“既然有人用技术造假，那么我们也要用技术去阻止他们得逞”，这种开源的AI模型可以为广大用户提供对抗Deepfake的有力工具，帮助人们识别虚假视频，减少虚假信息的传播和潜在的滥用风险。

Facebook等公司也在研究如何通过逆向工程技术来识别和追踪Deepfake内容的来源。通过这些技术的发展和应用，我们可以看到Deepfake与反Deepfake之间的较量正在不断加剧，同时也反映了社会对于技术伦理和个人隐私保护的关注。

而国内早在2021年，中国信通院就倡议发起了立“可信人脸识别守护计划”，旨在通过标准制定、测试评估、行业自律等手段，防范人脸识别技术带来的风险。值得一提的是，蚂蚁数科上个月刚发布了Deepfake身份防御产品“ZOLOZ Deeper”，主要通过全链路安全技术，帮助用户规避在刷脸认证场景中的“AI换脸”风险。

当下，面对深度合成技术的异化，还需社会合力的共同规制，以政府为代表的诸多主体应当着力于发展智能媒介技术文明认知教育；实现法律治理与追责的补位；利用技术逻辑重置权力的分配。比如，2022年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。

平台也要加快应对措施的出台。正如抖音去年发布了《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。今年3月以来，打击违规内容的力度进一步加大。

更重要的是，智能技术在融入人类社会的过程中不断被“社会化”、人类则被技术化，这不是一种功能性的改变，而是一种结构性的变革，需要创新的伦理规制。正如著名媒介伦理学家克里斯琴斯所指出的：传统的伦理方法，均已不能适应数字技术以来的传播伦理问题。我们不是要对原有的伦理进行更新，而是要从理论上重新构建。

学者陈昌凤，张梦在《由数据决定？AIGC的价值观和伦理问题》一文中所做的伦理思考，值得我们借鉴：人工智能应成为人类镜鉴，警示人类反省、净化自身，努力生成更优价值观的元数据、向机器提供更好的人类经验，以助力人工智能的发展、服务于人类的进步，更重要的则是：人类用自身理性的价值观引领技术的发展，要通过自身的善训练机器向善、引领人类向善。

如芒福德所言，人类拥有比其他一切组合都更为重要的生物学装备——大脑及其支配的身躯。新型智能技术带来的挑战，将会从新闻实践延伸到新闻机制、规范乃至伦理观念，我们需要见微知著，深入研究。

面对那些无法在真实世界与异性建立健康关系的男性，利用技术肆意妄为，只为满足自身违背公序良俗的私欲，我们充满愤慨。

基于理性，我们也应该认识到，当互联网技术迭代不断将人类整体带向一个更加互联互通的未来时，从“红药丸”的出现到深度伪造性犯罪的激增，其中是技术介入门槛的降低为人性作恶提供了更便利的契机。

对此，我们也应该像中科院工程师张欣怡团队团队一样开启自己的行动，比如，提升自己媒介素养，保护个人隐私的同时，善于识别AI信息内容，及时标注，为每一份虚假信息的传播设置人性向善的遏止。