“四川启动2.15万亿拆迁项目”“成都大规模拆迁，有人一夜暴富”……日前，几张有鼻子有眼的“拆迁地图”在网上疯传，显示成都多地都在进行拆迁，还有网民声称“获得赔偿款超千万”。而经有关方面调查，这是一则利用人工智能（AI）软件生成的虚假信息，4名造谣者已被公安机关依法给予行政处罚。
2024年6月，网络平台上的一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。公安网安部门迅速开展调查，发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。
“有图”未必“有真相”
这些离谱的“重磅消息”都是利用AI生成的谣言，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得大量关注和点赞。利用AI工具能生成极为逼真的图片、音视频，这就颠覆了“有图有真相”的常规认知，便利的AI工具大幅降低了造谣的制造成本，提升了谣言的数量级和传播力。
清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%，其中餐饮外卖、快递配送等行业更是AI谣言重灾区。
美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15种语言。
此前据央视新闻报道，有的MCN机构在最高峰时，一天能产出4000至7000篇AI假消息，全程基本不需要人工参与。
AI网络谣言有哪些特征？
生成式AI能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格，只需要输入关键词，AI软件可在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。
相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式，现在造谣者只需在AI工具中输入关键词，即可“一键生成”以假乱真的文章、图片。
AI生成的虚假信息在形式上非常逼真，往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪，这种伪装性和欺骗性让谣言更加具有迷惑性。
利用AI工具制造谣言能生成逼真的画面，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。
如何应对AI造谣？
早在2022年，中央网信办等就发布了《互联网信息服务深度合成管理规定》，规定任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。
2023年8月起施行的《生成式人工智能服务管理暂行办法》强调，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施。
今年4月，中央网信办秘书局发布《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》，要求加强信息来源标注展示。使用AI等技术生成信息的，必须明确标注系技术生成。发布含有虚构、演绎等内容的，必须明确加注虚构标签。
对于个人来说，面对鱼龙混杂的信息，增强辨伪防骗的能力变得更加重要。首先要保持警惕，仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。比如，一些谣言中事件的发展过程不符合常理，或者数据存在不合理的夸张等。其次，注意多方验证，不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于一些热点事件，可以检索官方媒体的报道，以验证信息的真实性。此外，对于获取的信息要谨慎分享，在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。最后，注意保护隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。
