秦小真 | 你听说过AI造谣吗?如何识破AI谣言?

政务   2024-11-21 12:43   陕西  


随着人工智能(AI)技术的发展,AI在文本生成、图片创作等方面有着广泛应用。输入几个关键词即可快速生成一张图或一篇文章。一些网民为博眼球、蹭热度,将AI技术用以编“伪消息”、造“假新闻”,以此来获得网民关注和点赞量,进而实现流量变现。

今天,我们就来一起学习面对网上疑似利用AI造谣时,如何增强“免疫力”。

AI网络谣言案例
2024年6月,网络平台上的一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月”的短视频在互联网平台传播,引发大量网民关注、讨论。公安网安部门迅速开展调查,发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述,这段长达几分钟、声色并茂的视频全是由AI合成的。目前,公安机关已依法对任某追究法律责任。
2024年1月,广西东兴市骆某某为博取流量,使用AI软件自动编辑抗洪、救灾视频,捏造了新疆乌什县发生地震的虚假视频信息,造成该谣言信息在互联网平台大量传播。目前,公安机关已依法对骆某某追究法律责任。
2024年5月,河南一网民在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章,引发大量网民关注、讨论。经查,该涉谣文章由AI系统生成并发布,相关言论及照片均为不实信息。目前,公安机关已依法对造谣人员追究法律责任。


AI网络谣言特征

定制化

生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格,只需要输入关键词,AI软件可在网络上抓取素材生成文本,形成定制化的文章、新闻、报告等信息。

门槛低

相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式,现在利用AI造谣者只需在AI工具输入关键词即可“一键生成”可以假乱真的文章、图片。

识别难

AI生成的虚假信息在形式上非常逼真,往往新闻要素齐全、内容完整,甚至可能包含图像和视频,这使得公众难以辨别真伪,这种伪装性和欺骗性让谣言更加具有迷惑性。

破坏大
利用AI工具制造谣言能生成极为逼真的图片、音视频,颠覆了“有图有真相”的常规认知,蛊惑性极强,短时间内就能快速传播,易引发社会恐慌,扰乱社会公共秩序。


网络谣言危害

泄露敏感数据

AI对话、文字创作等AI工具可收集并存储用户信息,造成个人隐私数据泄露,甚至可能从一些涉密敏感人员数据中推断出敏感信息。

损害他人名誉

网络谣言往往针对特定个人或群体,散布虚假信息,恶意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。

误导公众认知

网络谣言往往利用人们的认知和心理弱点,制造虚假信息,误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。

扰乱公共秩序
网络谣言可能引发公众恐慌和不安,破坏社会信任和稳定。虚假信息的传播可能引发群体性事件,甚至导致社会动荡。

如何增强“免疫力”

保持警惕

仔细分析信息的逻辑性,若存在明显漏洞、矛盾或与常理不符的地方,很可能是虚假信息。比如,一些谣言中事件的发展过程不符合常理,或者数据存在不合理的夸张等。

多方验证

不要仅仅依赖单一的信息来源,应从多个权威渠道获取信息进行对比。对于一些热点事件,可以检索官方媒体的报道,以验证信息的真实性。

谨慎分享

在确定信息真实可靠之前,不要随意转发,以免无意中成为谣言传播的推手。

保护隐私
注意保护个人隐私,不随意泄露个人信息给不可信的网站或应用程序,防止个人信息被用于生成虚假内容。

“秦小真”专栏

目前已推出积分抽奖活动

欢迎团子们踊跃参与

点击文末“阅读原文”进入

学习频道-积分商城-积分抽奖

5积分即可抽奖一次

每日3次抽奖机会


每日首次登录个人中心得1分
阅读“最新推荐”一篇文章
并点击“在看+关注”得1分



每期团团会送出五个
“三秦青年”文创产品
本期抽奖时间截止到
11月27日晚上24:00
精美礼品等你来拿
快来参与吧

◆编辑 | 木子

◆校审 | 从心、深海

◆审核 | zeico、张玉军

猜 你  

▽ 当00后开始上岗,网友:期待的画面出现了……
▽ 2024年陕西青年人才招聘会暨“千校万岗·就业有位来”——延安大学西安创新学院来啦!
▽ “青”你读书 | 历经时光流转,小卖部里的回忆与爱会一直陪伴着……(文末有惊喜)








点亮“”和“

分享给更多小伙伴!

三秦青年
共青团陕西省委员会官方微信
 最新文章