“小男孩被埋图”涉案人员已被拘!灾情面前,必须让“AI造假”走开

文化   2025-01-11 11:30   北京  

来源:综合公安部网安局、半月谈(评论员:张漫子)


1月7日9时5分,西藏定日县发生6.8级地震,灾情牵动人心!

此时,一系列“小男孩被埋图”在互联网平台广泛传播,并配文日喀则地震等关键词,引发大量网民关注,甚至获得好几万的转评赞。

鉴于该图片存在明显AI生成痕迹,公安机关网安部门迅速开展核查,经查,上述图片确由AI工具创作,原作者在2024年11月18日发布了相同画面的短视频,并未关联地震且声明是AI生成。

依法查处

经查,青海某网民为博取眼球,将“小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木,混淆视听、误导群众,致使谣言信息传播扩散。目前,涉案人员已被属地公安机关依法行政拘留。

以案释法

  • 《中华人民共和国治安管理处罚法》第二十五条中规定,散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处五百元以下罚款,情节较轻的,处五日以下拘留或者五百元以下罚款。

  • 《中华人民共和国刑法》第二百九十一条之一第二款规定,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。


如何甄别


  • 观察细节:许多AI生成的图片、视频中,可能存在边缘模糊、光线阴影不自然、人物的眼睛、头发、手指等可能处理得不够完美,透视关系也可能处理得不够自然准确等。


  • 多方验证:不要仅仅依赖单一的信息来源,应从多个权威渠道获取信息进行对比。对于一些热点事件,可以检索官方媒体报道,验证信息的真实性。

  • 使用工具:利用AI图片检测工具可以帮助识别图片是否为AI生成。

  • 谨慎分享:在确定信息真实可靠之前,不要随意转发,以免无意中成为谣言传播的推手。

灾情面前,必须让“AI造假”走开

1月8日,词条“地震被压废墟下戴帽小孩是AI生成”冲上热搜,让前一天还在为小孩伤心落泪、转发照片的网民愕然:原来让自己心疼不已的小孩照片,竟是一场彻头彻尾的“照骗”!造假者抓住大众对灾难的同情心与关注度,编造吸睛标题和文案,使虚假影像得以病毒式传播,只为流量变现。
图片为自媒体AI合成视频的截图,与本次西藏地震无关

突发事件的信息传播中,影像对网民视觉与情绪的调动作用极为直接,正所谓“一图胜千言” 。如今,生成式人工智能的普及,使得内容制作的门槛与成本大幅降低。普通人只需动动手指,就能一键生成逼真的照片或视频,视觉内容的创作效率大大提升。然而,这一技术的滥用也导致了AI造谣、AI诈骗、AI魔改等乱象层出不穷。

在流量的驱动下,一些不法分子利用AI编造“伪消息”、制造“假新闻”,骗取网民关注点赞。在利益的驱使下,诈骗分子更是利用AI合成受骗者亲友的声音画面,实施精准诈骗。在地震救援工作仍在持续的当下,仍有与地震相关的AI合成照片在疯传,以所谓的“正能量”之名,行蹭流量、骗流量、变现流量之实。

AI合成内容愈发便捷的另一面,是AI造假正变得易如反掌:成本更低、速度更快、质量更高、识别更难,让人感慨“有图有真相”的时代已日渐远去。

当AI伪造的信息越积越多,善意的传递成本也会水涨船高,最终冲破真实世界信任的围栏。当技术被滥用,成为侵犯他人权益、误导公众视听的工具,扰乱救援大局、加剧心理创伤、动摇社会信任,技术与法律的规制必须站出来,坚决遏制AI合成虚假内容的这场闹剧。

应对“魔高一尺”,还需“道高一丈”。AI造假与AI打假的对抗,犹如一场你追我赶的“猫鼠游戏”。随着AI伪造技术不断发展,“对抗技术”也必须不断升级,追上生成技术的迭代速度。

以人的“善治”,促技术“善智”。法律依旧是打击AI造假的有力武器。对于编造、传播虚假灾情影像造成社会恐慌、阻碍救援等严重后果的行为,法律必须长出牙齿、形成威慑。平台作为信息传播的主阵地,也应当好“守门员”,严格准入和监看,对AI生成内容做好筛查、标记与提示。

对“AI伪造”说不,绝非小题大做。技术发展的初衷,是为人类造福,而不是任凭AI创造力的利刃,挥向人们的善意,侵蚀公共信任。在大模型时代,如果对AI伪造信息不加甄别地滥用,更将会污染作为模型“燃料”的信息海洋,最终反噬的只能是人类自己。只有把握好技术与伦理、发展与安全的关系,才能让技术向善、服务于民。
监制:卢刚 | 责编:赵岑 | 校对:张慧

新华每日电讯
新华社主办《新华每日电讯》。有生命力的阅读,有温度的人和事。
 最新文章