首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

【穰邓国安】你被AI生成的假新闻骗过吗？起底AI造谣乱象→

文摘   2024-11-20 21:04   河南  

近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。

今年6月，一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。经公安网安部门开展调查发现，该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。

此事件并非个案，随着AI技术应用越来越普遍，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。

专家表示，AI造谣具有定制化、门槛低、识别难、破坏大等特点，亟须加强监管。同时，可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。


民警向市民宣讲网络安全知识


AI造谣门槛低、危害大


今年8月，一则“福建南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂，甚至还有逼真的视频片段，一时间引得大量网民关注和转发。但经公安机关核查发现，这竟然是用AI编造而成的网络谣言视频。

“当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同，AI在短期内能够批量生成大量内容不同的网络谣言，而且生成的网络谣言信息内容更加贴合人类表达方式，并结合深度伪造技术生成图片、视频、录音，使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。

记者随机用“AI文案速成”小程序测试，在对话框内输入“火灾”这一主题有关的内容创作指令，便生成了一篇新闻报道，甚至包括现场救援细节，及消防安全提示，让人真假难辨。赵精武指出，AI网络谣言的危害性主要表现为扰乱社会公共秩序，削弱政府公信力、诱发电信网络诈骗等。


为牟取非法利益造假

涉嫌构成多种罪名


赵精武分析，个人或组织利用AI技术造谣背后的动机是复杂多样的，既包括部分网民为了寻求存在感、刺激感，故意编造AI网络谣言，也包括犯罪分子为了牟取非法利益，编造AI网络谣言，以便顺利实施电信网络诈骗等犯罪活动。

今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。

近日，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现，相关账号和视频由某网络科技有限公司（实为以MCN模式运营的“网络水军”团伙）使用发布，该MCN“网络水军”团伙搜集全网敏感热点，随意设置虚假剧情，利用AI软件根据剧情自动生成多处关键情节虚假的文案，安排真人出镜解说，拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息，为博取流量、不法牟利，在多个平台公开发布，后造成虚假视频信息被大量浏览、传播，从而牟取非法流量返利。

中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息，而且目的是骗取互联网平台上不特定多数人的财产，则涉嫌诈骗罪。


如何治理和防范

  AI网络谣言的产生？


为治理AI乱象，深化网络生态治理，近年来相关部门出台了多项政策和措施。

2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。

“加强AI领域的司法治理，需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则，针对诸如生成网络谣言等技术滥用现象，既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任，还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。

同时，他表示，也可通过技术手段进行治理，譬如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术，实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等。
来源：国安宣教公众号

本微信公众平台为官方平台

转载请注明“来源：邓州头条”

投稿邮箱：dengzhoutoutiao@163.com

📋︎ 排版  / 肖晨曦
📋︎ 校对  / 李科帝
📋︎ 初审 / 杨清令
📝 终审 / 刘士全
▼
微矩阵

          

      云上邓州客户端       邓州电视台抖音      

               

邓州发布微信公众号     邓州融媒视频号
觉得不错就点↓↓↓


 http://mp.weixin.qq.com/s?__biz=MzkxNDIyMTgzNA==&mid=2247708712&idx=6&sn=805880ab30435d06fbb2e9def1af4bf4
邓州头条
邓州市融媒体中心
 最新文章
【上级媒体看邓州】河南日报农村版头版头条报道《邓州挺起产业“硬脊梁”》
姬欣深入孟楼镇督导村（社区）党组织书记后备力量培育储备等重点工作
消防宣传月| 居民家庭消防安全知识漫画（十）
【以旧换新 便民惠民】南阳消费品以旧换新相关政策全解读
【穰邓国安】已有人被判刑！这张卡不能随便外借
南阳市委宣传部举行“建强副中心 打造增长极 奔向新辉煌”系列主题邓州专场新闻发布会
【化纤纺织攻坚突破之决战时刻】邓州市申港化纤纺织：企地携手 助推企业“加速跑”
【以旧换新 便民惠民】河南省家电补贴消费者操作指引
邓俊峰主持召开市委常委会
【化纤纺织攻坚突破之决战时刻】邓州市水利局：聚焦重点谋突破 精准发力勇攻坚
【整治“四沟四渠” 夯实农业根基】邓州市小杨营镇：群众积极参与 整治初见成效
消防宣传月| 居民家庭消防安全知识漫画（八）
邓俊峰深入部分重点项目现场办公
邓州市教体局：五育并举 赋能成长
【创文创卫 共建共享】三评！新时期爱国卫生运动就是健康中国行动
消防宣传月| 居民家庭消防安全知识漫画（七）
邓俊峰主持召开市委常委会（扩大）会议
【整治“四沟四渠” 夯实农业根基】邓州市罗庄镇：冬修水利正当时 夯实基础惠民生
【弘扬中华优秀传统文化】今日小雪
消防宣传月| 居民家庭消防安全知识漫画（六）
【学习贯彻党的二十届三中全会精神】始终坚守守正创新这一重大原则
【聚力聚焦乡村振兴】邓州市裴营乡：产业兴 村民富
【创业故事汇】麻向红：用“双带” 给乡村振兴交“答卷”
邓州市中心医院深入推进检查检验结果互认
注意！邓州市2025年度城乡居民基本医保参保政策有新变化
邓州市召开村（社区）党组织书记后备力量培育储备工作推进会
净化美丽湿地 守护碧水湍河——邓州市生态文明志愿者“净园行动”启动
邓州市融媒体中心《穰原故事》采风团走进九龙镇
邓州市融媒体中心作品再次上榜！“新视界 新南阳”10月份优秀短视频展播
邓州市医疗保障局致广大城乡居民的公开信
【穰邓国安】你被AI生成的假新闻骗过吗？起底AI造谣乱象→
邓俊峰主持召开市委常委会
2024年南水北调水源地教育对口协作——北京专家巡回讲学活动在邓州市举行
【以旧换新 便民惠民】河南省汽车置换更新补贴问答手册
消防宣传月| 居民家庭消防安全知识漫画（五）
“新视界新南阳”优秀短视频大赛邀您参加11月份作品征集开始
【乡村振兴“1+N”】邓州市刘集镇：小洋葱种出致富增收新门路
邓州市政协：开展关爱员工健康服务活动
【以旧换新 便民惠民】家装厨卫“焕新”补贴问答手册（二）
消防宣传月| 居民家庭消防安全知识漫画（四）
邓州市委政法委：“一企一警一法律顾问” 护航民企高质量发展
邓州市裴营乡举办“唱响乡村情 温暖百姓心”民俗文化演出活动
【以旧换新 便民惠民】家装厨卫“焕新”补贴问答手册（一）
【学习贯彻党的二十届三中全会精神】按规律办事 按规矩做事
【穰原故事】走进乡村看振兴｜邓州市赵集镇：中州名镇活力足
2024年河南省全民健身大赛象棋团体赛暨丹江口库区区域中心城市象棋邀请赛在邓州市开赛
南阳市电动自行车以旧换新补贴实施细则
消防宣传月| 居民家庭消防安全知识漫画（三）
【学习贯彻党的二十届三中全会精神】国家安全是中国式现代化行稳致远的重要基础
邓州市开展2024年“社保服务进万家”活动
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉