四川网警依法查处10起利用AI造谣典型案例

政务 2024-07-30 15:24 辽宁

近年来，随着人工智能技术(AI)的高速发展，AI在各个领域的应用极大的丰富了我们的生活和工作。

其中，AI的文本、图像生成功能，被一些不法份子用来编辑虚假信息，降低了不法人员造谣、传谣的门槛，大幅提升了谣言的数量级和传播力，可能促使网络谣言“定制化”生成、“精准化”传播、“智能化”扩散，滋生出“AI类网络谣言”，极易扰乱网络生态和社会秩序。

对此，四川网警积极行动，严厉整治涉AI类网络谣言，现公布10起AI造谣典型案例。

案例一：利用AI软件编造“山体滑坡致8人遇难”网络谣言

2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害已致8人遇难”。

经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。

目前，四川广元公安机关已依法对杨某某进行行政处罚。

案例二：利用AI软件编造“喜德县地震”网络谣言

2024年6月9日，有网民在某视频平台发布视频称，“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。

地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。

目前，四川凉山公安机关已依法对罗某某进行行政处罚。

案例三：利用AI软件编造“巴中警民对峙”网络谣言

2024年5月18日，有网民在某平台发布文章称：”巴中市最近上演了一场令人惊心动魄的事件，一辆运钞车遭到踢爆，警民双方展开了一场激烈的对峙”。

经查，4月30日上午9时许，在四川巴中的一辆运钞车因在公交车站牌处占道停留，交警发现后请运钞车驶离。违法人员尚某某在网上获悉相关图片后，为吸引眼球，获取流量和利益，带着侥幸心理，在未经核实的情况下使用“AI千文”生成标题为《一场惊心动魄的"钞票大战"巴中市警民对峙引发轰动谁将成为胜利者》的虚假信息并发布，误导网民，引发社会恐慌，扰乱公共秩序。

目前，四川巴中公安机关已依法对尚某某进行行政处罚。

案例四：利用AI软件编造“九旬老人遭儿女遗弃”网络谣言

2024年6月24日，有网民在某平台发布一则题为成都市新都区大丰街道“九旬老人遭儿女遗弃，流浪乞讨多年成‘皮包骨’”的文章。

经查，文章中的图片来源于某外国博主救助外国流浪老人的视频，而文章中的这位“李老头”也远在大洋彼岸，违法行为人张某为了吸引流量、博取关注，在家中借助AI程序，结合自己的“所思所想”编造并发布了这篇虚假文章。

目前，四川成都公安机关已依法对张某进行行政处罚。

案例五：利用AI软件编造“4月大女婴被遗弃”网络谣言

2024年1月12日，有网民在某平台发布文章称：“一则令人心痛的新闻在贵州省贵阳市花溪区传开，一个仅仅4个月大的女婴被遗弃在超市角落”。

经查，违法行为人周某开发了可自动编撰文章的“翠绿笔墨”AI工具和配套管理系统，并招募志愿者创建工作群，要求志愿者提供平台账号，由其开发的管理系统代为登录账号，周某再利用AI工具自动生成相关文章，通过管理系统自动保存到志愿者平台账号的“草稿箱”中，通过工作群发布任务，由志愿者通过手机从“草稿箱”中手动发布，2023年11月以来，周某通过招募获取相关账号300余个（均已关停），利用AI工具编造信息约42万余条（均已清除）。

目前，四川达州公安机关已依法对周某进行行政处罚。

案例六：利用AI编造“成都公交车失控”网络谣言

2023年11月20日，有网民在某平台发布文章称：“四川成都公交车失控冲入河中”。

经查，违法行为人陈某看到“重庆公交车失控坠河10死2伤”的新闻后，为吸引眼球、博取流量，通过AI软件合成，将内容篡改为“成都龙泉驿公交车失控坠河10死2伤”后发布到互联网，产生不良社会影响。

目前，四川成都公安机关已依法对陈某进行行政处罚。

案例七：利用AI软件编造“地下热管道破裂”网络谣言

2023年12月27日，有网民在某平台发布文章称："西安市鄠邑区地下涌出热水、疑是地下热管道破裂引发”。

经查，违法行为人王某、柳某为赚取平台奖励，利用AI软件自动生成“西安鄠邑区地下热管道破裂”的文章，并与河南省商丘网发布的“商丘一热管道破裂”图片进行嫁接，发布在网络平台上，引发大量网民关注，造成不良社会影响。

目前，四川绵阳公安机关已依法对王某、柳某进行行政处罚。

案例八：利用AI编造“建筑工地事故”网络谣言

2023年11月28日，有网民在某平台发布文章称：“成都龙泉驿区一工地上，四名工人使用脚手架高空作业触碰高压线不幸身亡”。

经查，违法行为人朱某在互联网看到“四川达州渠县使用脚手架高空作业触碰高压线造成四人死亡”的新闻后，为吸引眼球、博取流量，通过AI软件合成，将事故地点篡改为成都龙泉驿区后发布到互联网，产生不良社会影响。

目前，四川成都公安机关已依法对朱某进行行政处罚。

案例九：利用AI软件编造“嫖娼突发心脏病死亡”网络谣言

2024年5月11日，有网民在某平台发布文章称：“凉山西昌有一男子因嫖娼突发心脏病死亡，其家属向两名卖淫女和宾馆老板寻求赔偿”。

经查，违法行为人吉某某为吸引流量通过AI工具“智普清言”炮制该虚假文章并发布，造成不良影响。目前，四川凉山公安机关已依法对吉某某进行行政处罚。

案例十：利用AI软件编造“虚假横幅”网络谣言

2024年4月，有网民在某平台发布“成都市郫都区德源镇某某开发区奠基仪式”的视频。

5月，该网民又发布一挂有“让全村都怀上二胎，是村支书不可推卸的责任”横幅的图片视频。经查，以上视频为AI编辑生成，均为不实信息。

目前，四川成都公安机关已依法对王某进行行政处罚。

网警提醒

对在互联网上

发布编造、散布虚假信息

蓄意歪曲事实，捏造传播谣言

扰乱公共秩序的行为

公安机关将坚决依法严格处理

希望大家引以为戒

做到不造谣、不信谣、不传谣

携手共建清朗网络空间

素材 | 四川网警

— 欢迎关注 —

http://mp.weixin.qq.com/s?__biz=MjM5MzY1MDcxNg==&mid=2652857513&idx=1&sn=39930a3023d54cf64bdf869dcb0d6586

盘锦市公安局兴隆台分局

警务宣传。

最新文章

传承抗美援朝精神凝聚磅礴奋进力量兴隆台公安分局开展爱国主义主题观影活动

兴隆台公安分局关于敦促盘锦恒源旅游有限公司投资参与群众报案的公告

兴隆台分局网安大队深入辖区网吧宣传打击网络谣言活动

公安机关查处网络谣言|摆拍“被偷窥”视频？恶意误导舆论！拘留！

公安机关查处网络谣言|编造“喝酒开车警察不管”谣言，被行拘！

公安机关查处网络谣言│人贩子当街抓人?真相是这样的......

公安机关查处网络谣言│“自导自演” “扮穷”“卖惨” 博眼球无底线吸粉被处罚！

公安机关查处网络谣言│四川启动2.15万亿拆迁项目？成都大规模拆迁？造谣！

兴隆台分局网安大队深入社区宣传打击网络谣言活动

公安机关查处网络谣言丨中央电视台新闻频道《共同关注》栏目·真相来了：“机场拒绝中暑女子进厅休息？”谣言！

编谣言，博眼球，终获行政处罚

公安机关查处网络谣言|造谣银行倒闭？罚！

把造谣当成流量密码？恭喜你，可能喜提“银手镯”一对！

公安机关查处网络谣言|攀枝花公安机关公布5起典型网络谣言案例

国庆安保，我们在行动！

以检查身体的幌子抽取孩子们的血去卖？恶意谣言！

重庆警方公布打击整治利用AI工具编造谣言5起典型案例

兴隆台分局打击一起网络谣言案件

流量不够，谣言来凑？“流量先生”覆灭记

公安机关查处网络谣言|造谣泄愤？批捕！

吸“流量”？博“眼球”？造谣传谣代价大！

国庆我在岗丨兴隆公安：以坚守献礼祖国

礼赞新时代书香润兴隆——兴隆台公安分局举行庆祝新中国成立75周年朗诵比赛

兴隆台公安分局隆重举行迎国庆升国旗仪式庆祝中华人民共和国成立75周年

传承红色基因，共筑爱国情怀兴隆台公安局组织民辅警参观辽宁“六地”红色文化主题巡展

【烈士纪念日】兴隆台公安分局开展网上祭扫纪念活动

公安机关查处网络谣言 |造谣自己初中三年长期被霸凌系谣言！

公安机关查处网络谣言 |发假信息赚流量？他们仨栽了

公安机关查处网络谣言|湖北公布5起典型案例

公安机关查处网络谣言|黑龙江警方公布7起网络谣言典型案例

【耀你知道】网络谣言

兴隆台分局打击一起网络谣言案件

市局组织召开全市公安机关学习贯彻全省公安工作会议精神暨2024年“夏季行动”总结“平安护航”调度会议

【奋进中的辽宁公安】全省公安工作会议在盘锦公安引发热烈反响④

仰望英雄，心有力量

兴隆台公安分局关于敦促“盘锦金鸿商务服务有限公司”投资参与群众报案的公告

【奋进中的辽宁公安】全省公安工作会议在盘锦公安引发热烈反响③

市局召开党委扩大会议传达贯彻全省公安工作会议精神

【奋进中的辽宁公安】全省公安工作会议在盘锦公安引发热烈反响①

兴隆台公安分局打击一起网络谣言案件

网警教您看漫画辨别网络谣言！

内蒙古网警开展“警校筑基”民族团结暨打击网络谣言校园普法宣传活动

全省公安工作会议召开郝鹏出席并讲话李乐成主持王新伟出席

天津公安“净网2024”专项行动取得阶段性成效

查处3.1万余人！公安机关重拳打击网络谣言

公安机关查处网络谣言|重庆警方公布8起典型网络谣言案例

2024“红马”，盘锦公安与您一起穿越海岸线！

公安机关查处网络谣言 | 西藏公安机关依法打击整治网络谣言10起典型案例

兴隆台分局打击一起网络谣言案件

谣言还有公式，这你敢信？

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉