AI技术不应用来造谣生事

时事   2024-12-09 19:24   北京  

新华网评:AI技术不应用来造谣生事

近期,浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查,该团伙利用AI软件,拼接网络中误导性素材,剪辑成“原创”视频,并在多个平台发布,牟取非法流量返利。

这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展,AI生成内容比例逐步攀升,但其中也充斥着一些虚假信息,有的足可“以假乱真”,迷惑性极强。

利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网,可见“伪原创工具”“AI洗稿”等网站和小程序,既可创作文案、帮写稿件,又能生成图片、合成视频。有媒体报道,曾经发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,让人触目惊心。

AI如果被别有用心之人用以造谣、传播虚假信息,短时间内就可能快速传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。

对AI造谣违法行为,必须出重拳治理,要“狠打”也要“严防”。

来源:新华网
记者:田中全 张阳


新华网
新闻有深度 思想有温度
 最新文章