蛇年除夕，知乎上一篇DeepSeek创始人梁文锋回应《黑神话：悟空》制作人冯骥的帖子火了，文风细腻感人，逻辑层层递进，不卑不亢地回应了冯骥对于DeepSeek的盛赞——

滑动图片查看全文

如此金句令人动容，一时间，这篇文章被转载到各大微信群、朋友圈，也让正处在话题热度中的DeepSeek和创始人梁文锋再次获得市场与民众的关注。

然而在文章发布四个小时后，新浪科技向相关人士求证，上述回应为假，这名自称“梁文锋”的知乎作者立即被知乎封禁。

更为讽刺的是，不少网友提出质疑，称这篇假新闻正是DeepSeek写的，已经有人用DeepSeek提示词生成了一篇一模一样的文章，并附上证明的网址。

从OpenAI的ChatGPT到谷歌的Gemini，再到如今DeepSeek的火热，生成式人工智能的出现带来了信息集纳的便利，但也同时导致“深度伪造”（Deep fake）乱象产生，虚假信息泛滥，严重危害着社会秩序。    

深度伪造（Deepfakes），是由“Deep machine learning”和“Fake photo”组合而成，是柯林斯收录的2019年年度热词之一。随着去年Chatgpt4.0的发行，以及今年年初视频类AIGC平台Sora的出现，使得深度伪造的概念又一次进入大众视野。

北大的胡泳老师认为，深度伪造是由一种称为“深度”学习的特殊机器学习生成的人造图像或音/视频，可以令人信服地用另一个人的影像或声音取代一个人的影像或声音，或是用以制作虚假的事件。

从本质上来说，deepfake是一种深度学习模型，是图像合成、替换的技术框架，作为一种新形态的伪造技术，创作者可以借其篡改视频中人物的面容、声音等信息，从而制作出难以辨别真假的短视频。

与传统的虚假信息相比，AIGC制造的虚假信息呈现新特征：视频化造假愈发逼真，短时间难以识别；假新闻报道主体泛化，信源难辨真假；算法黑箱融入生产环节，隐含偏见、影响更大。

深度伪造乱象为何会产生？可从以下四个维度窥探其形成机制：

首先，从虚假传播者角度来看，经济利益驱使，用伪造来谋利；

其次，从用户角度来看，技术使用权下放，猎奇心理驱使，如特朗普被定罪的AI生成“被捕”图像在网上疯传（这其实也是一种对政治的戏谑化）；

再者，从内容本身来看，深度仿真技术高，识别难度加大；

最后，从监管层面来看，技术更迭速度快，AI管理规范滞后，这也是深度伪造泛滥的原因之一。    

深度伪造是一种合成技术，利用深度学习来合成或操纵视频、音频、图片等，实现篡改、伪造和自动生成，产生高度逼真且难以甄别的效果。生成式人工智能的出现导致深度伪造乱象的出现，虚假信息泛滥，危害着社会秩序。

深度伪造不同于早期虚假新闻中采用PS等工具进行图片后期，而是利用机器学习和人工智能来直接操纵、生成更具有欺骗性的视觉和音频内容，具备较强的原生性，形态自然，普通用户通常较难辨别。2023年4月，美国总统拜登正式宣布竞选连任后，共和党全国委员会发布了一则完全由人工智能生成的广告，展示了如果拜登连任将发生的各种想象中的灾难，高度模仿现实的效果使得大量用户难以辨别真假，被深度伪造品所说服，虚假信息的传播损害着公众的知情权。

另外，AI深度伪造盛行，也会侵犯个体隐私，如2024年韩国"Deepfake"事件就是最好的例证。

自然语言处理和生成技术作为生成式人工智能技术的核心，已然发展为能够阅读、书写和解释文本的复杂的大型语言模型，除了语法规则外这些模型还擅长模仿在线话语，因此很容易重复人类的偏见，并加剧虚假信息的传播。在2023年5月，一网民利用AI软件修生成报道“郑州鸡排店惊现血案，男子用砖头砸死女子”，把所有的描述进行夸张化或者更严重化的处理，强化男子暴力欺负弱小女子的形象，刻意引导性别对立。当虚假信息大量充斥在网络空间中，极易引发情绪化的对立，不断强化个人偏见，形成群体间的网络巴尔干效应。    

西雅图华盛顿大学教授杰文·韦斯特表示，“虚假图片在危机事件发生期间增加了噪音，也增加了人们愤世嫉俗的程度。人们开始对接触到的信息失去信任”。在信息发布环节，面对深度造假内容与传播真相的新闻信息间的对立，在以感性为主导的后真相时代，民众极易受到充斥着情绪化的深度造假内容的错误引导，导致真相不被相信、接受和传播，导致新闻媒体传播真相的声音被淹没。苏黎世大学的研究就曾发现，人工智能生成的错误信息比人类创建的虚假内容更有说服力，这就导致了人们对技术的担忧，长此以往会产生对于智能产品乃至社会的信任危机。

生成式人工智能拥有强大的文图和视频生成与分析能力，可以根据人们的要求快速地生成不同的内容，以满足不同用户的各种特殊需求。但这种能力也可能会被滥用于制造无端谣言、虚假图片或非法视频，从而误导舆论走向并造成舆论操控。例如在俄乌战争中，俄罗斯部署了大量带有人工智能生成面孔的针对乌克兰的虚假账户，以提高可信度。因此从国际视角来看，深度伪造也会加剧意识形态的斗争，产生一定的国际舆论操控。    

新型技术的出现改变着虚假信息传播的逻辑，同时也带来了不良的社会影响，治理深度伪造乱象需要从建立多维问责制度、压实平台责任、提高公众素养等方面入手。

克里斯琴斯曾言：“在技术崇拜的时代，我们所面临的危机不是对规则的违背，而是无规范的真空”。当前，生成式人工智能存在深度造假等种种乱象问题，因此完善并落实《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》，对于规范生成式人工智能所存在的种种乱象、促进新技术继续向上向善进步有着重要意义。

互联网平台的中枢地位决定了其将作为深度伪造品等虚假信息的第一处理人，应当开展针对阴谋内容的事实检査和算法降级，发挥核心把关效用。针对AI虚假内容隐患，OpenAl推出一款新型监测工具，可以识别图片是否为其AI模型生成，以帮助使用者辨别真假。此外，TikTok也宣布正在加强其对人工智能生产内容的识别和标注措施，将该平台自动识别自家AI工具创作内容这一功能进行拓展，识别并标注来自其他平台的AI生成内容，便是平台把关的新兴实践。    

媒体报道的社会守望功能与拟态环境建构同样是深度伪造信息治理中的关键一环。多次危机的历程证明，一旦正常的社会传播系统功能被削弱，非常态的传播机制就会活跃起来，这无疑为利用生成式AI生产虚假信息创造可能。因此新闻业应当坚持提供高质量的新闻，避免缺位，并回应虚假信息扼杀其进一步扩散，例如澎湃的明查，便以建立公众信任并纠正假新闻和虚假信息为己任，表现出人工智能时代对新闻业提出的更高要求。

值得庆幸的是，此次关于“DeepSeek创始人回应冯骥”的假新闻并没有通过官方渠道进行进一步扩散，各大官媒保持着谨慎态度，再加上DeepSeek的辟谣及时，因此，这一假新闻并未造成严重的舆情危机。

智能传播时代，公众应当提升网络媒介素养，来保护自己免受深度伪造的侵害。一方面，要有信息消费素养，对信息要有辨识、分析与批判能力，利用多渠道验证，识别深度伪造的图片或者视频；另一方面，也要具备信息生产素养，传播权力的下放也对个体提出了更为严苛的要求，对于普通受众而言，应当具备一定的对于信息的生产和鉴别能力，这一方面保证了自身生产内容的可靠性，另一方面也能够提高自身所转发信息的真实性。

从技术开始为媒介赋予可供性开始，新闻伦理已经开始不断受到挑战，而新闻真实作为新闻的生命线，也处于不断地解构之中。AI聊天机器人正成为新闻传播的重要工具，可信度直接影响公众认知。作为一种更为强大的技术，人工智能加深我们对于“拟态环境”真实性的认知度，使我们在“深度伪造”忘却真实与虚假的边界。

当下，面对生成式AI对于新闻与传播视域以及人类社会的结构性影响，有关的规制手段与条例成为亟待健全与完善的问题。无论何时我们应该始终牢记，人的底线即技术的边界。如果DeepSeek无法解决这一核心问题，其“全开源”策略也难以改变全球市场对其可靠性的怀疑，“百度”就是最好的前车之鉴。

胡泳.人工智能驱动的虚假信息：现在与未来[J].南京社会科学

张爱军,王芳.人工智能视域下的深度伪造与政治舆论变异    

翟红蕾,邹心晨.Deepfake加持下短视频类假新闻的演变与治理[J].今传媒