随着人工智能（AI）技术快速发展，其潜在的风险也随之出现，真假新闻的界限似乎变得模糊。AI生成假新闻便是代表性的潜在风险之一。当前，各种AI工具的出现，为虚假信息传播提供了便利，使得炮制假新闻变得更加容易和高效。假新闻的生成手段从过去的图片和文字素材拼接，发展到了利用大模型生成文字信息和图片视频的新阶段。不法分子通过AI伪造假新闻、假人物、假现场，冠以突发新闻、科普内容等名号在互联网广泛传播、吸睛牟利，制造谣言、混淆视听，扰乱网络传播秩序。![]()
AI能够生成逼真的假新闻、社交媒体账户和内容，用于社交工程攻击，误导人们进行不安全的操作，所用到的技术手段主要有以下4种——1.文本生成：利用自然语言处理（NLP）和生成模型，人工智能可以生成逼真的文章。这些文章可能包含虚假信息，被设计成模仿真实新闻报道的语言风格。2.语音合成：语音生成模型可以模拟真人的语音，这使得制作虚假的音频新闻变得更加容易。3.图像和视频生成：人工智能技术可以用于生成虚假的图像和视频。深度学习模型能够合成逼真的照片和视频，包括将人脸嵌入到不同的场景中，让虚假信息更加难以分辨。4.社交媒体机器人：人工智能程序可以自动创建和管理大量的社交媒体账户，通过这些账户发布和传播虚假新闻。这些虚假账户被称为“机器人”或“僵尸粉丝”。一方面，AI可以把很多抽象的概念具象化地展示在观众面前，且形式非常夸张、内容耸人听闻，利用人们的情绪弱点进行传播，会对观众产生一些视觉、听觉或情感上的冲击，使其看起来变得更加可信。另一方面，AI不仅能捕捉用户的心理预期，还能针对性释放出一些部分真实的信息，进一步混淆视听。一旦这些AI假新闻被大量传播，就会扰乱正常的网络传播秩序，破坏互联网生态。利用AI生成假新闻的造谣者，还有可能触犯我国刑法，涉嫌犯罪，可谓是“害人害己”。![]()
针对使用AI“洗稿”，杜撰新闻事实的网络谣言，广大网友可通过以下方式进行鉴别。
在上网浏览信息时要保持对信息来源的警惕性，尽量选择权威、可信赖的媒体或机构作为信息来源。
要注意网络新闻信息的逻辑性，如果发现一条新闻信息在逻辑上存在明显的漏洞或矛盾，它很可能是经过篡改或杜撰的。
切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者等待官方消息发布后再做判断。
总之，个人在上网“冲浪”时需提高警惕，增强对假新闻的防范意识和辨别能力，不人云亦云，不偏听偏信；同时，自觉远离假新闻，不当假新闻的跟随者、助推者。如发现虚假新闻，可及时通过举报电话、互联网举报中心等多种途径对其进行举报，共同维护风清气正的网络生态。【本文综合摘编自《保密科学技术》2024年2月刊《人工智能的发展给网络安全带来的机会与挑战》（作者：周华涛、陈俊） 一文，以及央视新闻、中国青年报等官方媒体报道】
