听说过AI造谣吗？

文摘 2024-11-16 09:03 山东

随着人工智能(AI)技术的发展

AI在文本生成、图片创作

等方面有着广泛应用

输入几个关键词即可

快速生成一张画或一篇文章

一些网民为博眼球、蹭热度

将AI技术用以

编“伪消息”、造“假新闻”

以此来获得网民关注和点赞量

进而实现流量变现

今天，我们就来一起学习

面对网上疑似利用AI造谣时

如何增强“免疫力”

AI网络谣言案例

2024年6月，网络平台上的一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。公安网安部门迅速开展调查，发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。

2024年1月，广西东兴市骆某某为博取流量，使用AI软件自动编辑抗洪、救灾视频，捏造了新疆乌什县发生地震的虚假视频信息，造成该谣言信息在互联网平台大量传播。目前，公安机关已依法对骆某某追究法律责任。

2024年5月，河南一网民在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章，引发大量网民关注、讨论。经查，该涉谣文章由AI系统生成并发布，相关言论及照片均为不实信息。目前，公安机关已依法对造谣人员追究法律责任。

AI网络谣言特征

定制化

生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格，只需要输入关键词，AI软件可在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。

门槛低

相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式，现在利用AI造谣者只需在AI工具输入关键词即可“一键生成”可以假乱真的文章、图片。

识别难

AI生成的虚假信息在形式上非常逼真，往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪，这种伪装性和欺骗性让谣言更加具有迷惑性。

破坏大

利用AI工具制造谣言能生成极为逼真的图片、音视频，颠覆了“有图有真相”的常规认知，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。

网络谣言危害

泄露敏感数据

AI对话、文字创作等AI工具可收集并存储用户信息，造成个人隐私数据泄露，甚至可能从一些涉密敏感人员数据中推断出敏感信息。

损害他人名誉

网络谣言往往针对特定个人或群体，散布虚假信息，恶意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。

误导公众认知

网络谣言往往利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。

扰乱公共秩序

网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定。虚假信息的传播可能引发群体性事件，甚至导致社会动荡。

如何增强“免疫力”

1.保持警惕。仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。比如，一些谣言中事件的发展过程不符合常理，或者数据存在不合理的夸张等。

2.多方验证。不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于一些热点事件，可以检索官方媒体的报道，以验证信息的真实性。

3.谨慎分享。在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。

4.保护隐私。注意保护个人隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。

来源 | 公安部网安局广西网警

编辑 | 姜潇蝶

http://mp.weixin.qq.com/s?__biz=Mzg2NDc0NDcyOQ==&mid=2247946130&idx=1&sn=8543bb63f900481ed76afc8d0c1e7488

最威海是环翠

hi,谢天谢地您来了，等你等得好辛苦！欢迎关注“最威海是环翠”！我们发布政务咨询、环翠新闻、文化习俗、便民信息、旅游信息、生活常识等内容，为市民提供贴心的信息服务。您可以把此账号告诉更多朋友！

最新文章

重要发布！限制上网时长

威海人速看！降温雨雪大风来袭！气温降至-3℃左右！

听说下周有雪？威海赏雪路线来了，建议收藏！

最新！省属事业单位公开招聘

威海热电集团最新公告

它们，因“红”得“宠”！

生活，越来越有盼头！

赞！研发实力得到国家权威机构认可

美轮美奂，惊艳了时光！这里百年银杏披“金装”…

告别冬季寒冷，有这个养生小妙招→

紧急提醒：进入高发期

免费！半价！一地官宣

今天3时56分，威海迎来——

方便！“入院+手术+出院”24小时内搞定

这两天，环翠来了“一大波”记者~

全国百强，环翠登榜！

降！降！现在卖多少钱一斤？

1300人！国网山东电力公开招聘！

初冬绝美打卡地：凤凰湿地公园

别开门！别开门！别开门！

CT、磁共振、X光收费将执行新规！

教室暖气热不热？威海公布中小学校取暖热线电话

威海唯一！

“走在前、‌挑大梁”‌大众报业集团地方全媒体联合采访·威海行启动

大省挑大梁·民生保障 l 顺畅！跟颠簸破损说“拜拜”~

计划招聘96人！威海有岗

威海新增23处交通技术监控设备，设置地点↓

金价，突然上涨！

大省挑大梁·民生保障丨112个村，通了！

大省挑大梁·利企惠民丨第三次“牵手”的背后

大省挑大梁·好客好品 l 入选！省级旅游精品路线

这里下雪了！足足15厘米厚！威海的雪什么时候来…

戴耀廷、黄之锋等45人，判了！

招生新规！教育部最新通知→

公告，又一批减免

立即卸载！看看你的手机里有没有！

今日起，暂停开放！

点赞！威海一学校推出“妈妈厨房”

来看看！家门口也能找到好工作~

2024山东省青年歌手演唱大赛在威海圆满落幕

解锁就业创业新“密码”

官宣！华为Mate70系列，今日12:08开启预订

山东3家省属事业单位招聘

退钱了！退钱了！退钱了！