首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

你被AI生成的假新闻骗过吗？起底AI造谣乱象

文摘   2024-11-28 17:00   河北  

近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。
今年6月，一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。经公安网安部门开展调查发现，该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。
此事件并非个案，随着AI技术应用越来越普遍，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。
专家表示，AI造谣具有定制化、门槛低、识别难、破坏大等特点，亟须加强监管。同时，可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。
AI造谣门槛低、危害大
今年8月，一则“福建南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂，甚至还有逼真的视频片段，引起网民关注和转发。但经公安机关核查发现，这竟然是用AI编造而成的网络谣言视频。
“当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同，AI在短期内能够批量生成大量内容不同的网络谣言，而且生成的网络谣言信息内容更加贴合人类表达方式，并结合深度伪造技术生成图片、视频、录音，使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。
记者随机用“AI文案速成”小程序测试，在对话框内输入“火灾”这一主题有关的内容创作指令，便生成了一篇新闻报道，甚至包括现场救援细节，及消防安全提示，让人真假难辨。赵精武指出，AI网络谣言的危害性主要表现为扰乱社会公共秩序，削弱政府公信力、诱发电信网络诈骗等。
为牟取非法利益造假
涉嫌构成多种罪名

赵精武分析，个人或组织利用AI技术造谣背后的动机是复杂多样的，既包括部分网民为了寻求存在感、刺激感，故意编造AI网络谣言，也包括犯罪分子为了牟取非法利益，编造AI网络谣言，以便顺利实施电信网络诈骗等犯罪活动。

今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。
近日，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现，相关账号和视频由某网络科技有限公司（实为以MCN模式运营的“网络水军”团伙）使用发布，该MCN“网络水军”团伙搜集全网敏感热点，随意设置虚假剧情，利用AI软件根据剧情自动生成多处关键情节虚假的文案，安排真人出镜解说，拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息，为博取流量、不法牟利，在多个平台公开发布，后造成虚假视频信息被大量浏览、传播，从而牟取非法流量返利。
中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息，而且目的是骗取互联网平台上不特定多数人的财产，则涉嫌诈骗罪。
如何治理和防范AI网络谣言的产生？
为治理AI乱象，深化网络生态治理，近年来相关部门出台了多项政策和措施。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。
“加强AI领域的司法治理，需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则，针对诸如生成网络谣言等技术滥用现象，既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任，还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。
同时，他表示，也可通过技术手段进行治理，譬如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术，实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等。






END

来源：央广网

编辑：艾唯一

 http://mp.weixin.qq.com/s?__biz=MzkyODIyODI2Ng==&mid=2247524967&idx=2&sn=40c14aec25af51ad45ebdd237f64c6b1
张家口科协
弘扬科学精神、普及科学知识、传播科学思想、倡导科学方法
 最新文章
学习贯彻党的二十届三中全会精神｜始终坚守守正创新这一重大原则
你被AI生成的假新闻骗过吗？起底AI造谣乱象
【张家口科协每日科普】“低调国货”里的黑科技——
“双争”有我 文明实践我行动∣桥西区开展“垃圾分类进校园 绿色环保润童心”科普知识讲座
每天睡够 8 个小时才健康？别再被骗了！真相是……
【张家口科协每日科普】商场等公共场所，6个“安全风险点”，千万要小心！
喜报！我市一家单位获评2024年度河北省优秀科技志愿服务活动
“双争”有我 文明实践我行动∣桥西区开展花卉知识科普讲座
【张家口科协每日科普】让数字经济赋能新质生产力发展
学习贯彻党的二十届三中全会精神 | 加快推动城乡间科技创新和产业创新融合发展
只洗床单不做这件事，你的床永远是脏的
【张家口科协每日科普】“黑”科技“最”潮流，来看第七届进博会吸睛好物！
共赴美好数字未来——我国积极推动全球互联网发展治理迈向更高水平
今日小雪：迎冬小雪至，应节晚虹藏
“科学家精神进校园”活动走入崇礼区两所学校
祝贺！我国载人登月火箭再传喜讯
【张家口科协每日科普】颠覆性创新与数字经济协同共促高质量发展
2024年科普专业职称评审工作座谈交流活动在京举办
棉柔巾？绵柔巾？一字之差竟有这些套路！
【张家口科协每日科普】发展数字经济意义重大：推动高质量发展的重要力量（专题深思）
省科协领导到我市调研慰问
总感到疲劳乏力？来试试这6种食物！
【张家口科协每日科普】数字经济｜2024我国数字经济发展概况
张家口市机械工程学会召开表面技术处理交流会
党建时评｜推动理想信念教育常态化制度化
【张家口科协每日科普】锚定数字经济，推动乡村振兴高质量发展
“科学家精神进校园”宣讲活动走进下花园
增加2天！2025年起，放假安排有调整→
【张家口科协每日科普】从11.2万亿元到53.9万亿元——数字经济发展动能强劲
学习语丨要坚持改革和开放相统一
长期吃降压药的人，建议少碰4种食物！否则可能血压不降反升
【张家口科协每日科普】数字科普 | 什么是信息化、数字化、智能化、智慧化与数智化？​
张家口市中医学会中医护理专业委员会成立
学习语｜在创造性转化和创新性发展中赓续中华文脉
打官司时，微信聊天记录也是证据！但要这样做→
【张家口科协每日科普】手机掉进轨道 、物品被夹车门……上下地铁遇到这些突发意外该怎么办？
服务助力科技人才成长市科协召开青年科技工作者座谈会
弘扬科学精神，传播谷子文化——谷子文化讲座在国际教育学院开讲
思想理论｜坚持以习近平文化思想为指引　坚决维护意识形态安全
预防冬季呼吸道传染病，一老一小如何应对？
【张家口科协每日科普】“昊龙”！中国自己的货运航天飞机长这样——
“双一流”建设取得显著成效，支撑高水平科技自立自强能力显著提升
常年喝烧开的自来水竟会伤身？关于饮用水，这些常见的误区要了解
【张家口科协每日科普】“发热面料”“抗菌面料”“玻尿酸成分”……真靠谱还是“智商税”？秋衣秋裤到底该怎么选？
张家口市科学技术协会关于申报2025年第一批全民科学素质提升行动项目公示
秋尽立冬始，美好正当时
【张家口科协每日科普】音乐的指纹：“听歌识曲”是怎么识别音乐的？
谱写新时代社会工作高质量发展新篇章——党的十八大以来社会工作成就综述
超实用！以旧换新补贴最全指南来了
【张家口科协每日科普】你知道中性笔笔芯末端的油是什么吗？
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉