新华社批“AI污染”乱象

文化   2024-11-10 18:40   湖南  

文丨胡炜(新京报传媒研究院)


近日,新华社发文从多个方面对AI提出了批评,《警惕“AI污染”乱象》一文指出,“去年以来,生成式人工智能在世界范围内掀起一波接一波的热潮,其颠覆性应用让许多行业和网民受益。然而,一块硬币有两面,伴随生成式人工智能而来的也有一些负面问题,由'信息垃圾'导致的'AI污染'越来越突出。” 

确实,随AI技术的飞速发展,互联网内容生产力也发生了革命性的变化,然而,这种技术的普及也带来了一系列问题:

  • 在某些热门社交平台上,充斥着大量AI生成的虚假账号;


  • 某小说平台的账号,依靠AI“创作”,一天可更新50部小说,月更字数上千万,但行文常常逻辑不通、辞藻空洞;


  • AI内容创作甚至亮相学术界,某顶尖高校学者在SCI发表的论文,因插图为AI生成,且错误百出,仅发表3天被撤稿,沦为学界笑柄……


 网络截图

随着AI带来的负面影响越来越多,尤其是在新闻和信息传播领域,几乎全面入侵。AI可以生成、伪造或篡改文本、图片、音频和视频,产生大量粗制滥造、真假难辨的“信息垃圾”,是时候对其进行全面审视了。 

01
AI在新闻领域的入侵

  • 新闻真实性受到极大挑战


AI的发展为新闻领域带来了翻天覆地的变化,从传统的人工采编模式逐渐向智能化、高效化的方向转变。但人工智能可能会复制或放大现有数据中的错误,生成虚假信息和宣传,新闻机构在使用AI时,也面临保持真实性和公信力的重大挑战。


有的MCN机构为博取流量,通过AI软件生成虚假新闻,导致大量网络谣言病毒式传播。今年6月中旬,一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播,扰乱了公共秩序,被警方行政拘留。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。

新华社在《警惕AIGC数据污染“稀释”人类原创》一文提醒“生成伪造虚假内容,扰乱公共秩序”:生成式人工智能可以根据人的指令生成不存在的内容,极易被用于自动生成虚假新闻和谣言。深度伪造技术(DeepFake)正快速发展,图片伪造、音频合成和视频换脸在生成式AI的帮助下变得轻而易举,这些虚假内容能够以逼真的形式迅速传播,带来严重的社会影响。 

在《警惕“AI污染”乱象》文中指出:清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示,近一年来,经济与企业类AI谣言量增速达99.91%。美国调查机构“新闻守卫”称,生成虚假文章的网站数量自2023年5月以来激增1000%以上,涉及15种语言。一些专家认为,AI制造的“信息垃圾”产量庞大,且辨别难度较大、筛选成本较高。 
     

 

  • 版权归属问题复杂


传统版权通常归属于创作者或创作者雇主,但AI版权可能归属于训练数据的提供者、算法开发者、系统操作者甚至最终用户,这导致新闻、出版机构在面对科技企业推出的AI工具整合新闻和内容时,可能损失相关流量和广告收入。

当地时间10月21日,《华尔街日报》母公司道琼斯和《纽约邮报》对人工智能初创公司Perplexity提出侵权诉讼,指控后者抄袭受版权保护的新闻内容,并利用这些新闻内容生成对用户提问的回复,从而抢走了原本会流向这两家出版商网站的流量。而在一周前的10月15日,Perplexity刚刚收到了来自《纽约时报》的警告,要求其在10月30日前停止使用《纽约时报》的内容。很多网友对此也给出了自己的看法。


02
应对之策探讨

新华社在《警惕“AI污染”乱象》中建议:

应加大对AI学习和生成机制的源头治理。明确AI平台对源头素材的把控责任和对生成内容的监管责任,完善AI内容生成规则,强制对AI生成内容打上显著标识,提升AI技术的透明度和可解释性。

加强对AI生成内容的筛查监管。有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上,可开发相关的审查算法,规范生成内容向舆论场的流入及传播途径,及时发现并删除低质量或虚假内容。

提高用户对AI生成内容的辨别能力。网民应理性对待互联网信息,增强防范意识和识别能力,可使用反向搜索工具,检查内容来源和作者信息,分析内容的语言和结构特征,从而鉴“伪”鉴“劣”。       

 


对于新闻从业者,除此之外,还应注意:

一方面要明确AI应用边界。明确AI在新闻领域的应用边界至关重要。一方面,要确定哪些新闻内容可以由AI生成,哪些必须由人工撰写。例如,对于重大时政新闻、深度调查报道等需要高度准确性和专业判断的内容,应明确禁止使用AI生成,确保新闻的权威性和可靠性。另一方面,要规范AI在新闻编辑、分发等环节的使用,避免过度依赖人工智能而导致新闻质量下降。

另一方面,要提高对AI生产内容的辨别能力。提高新闻从业人员和公众对AI生成内容的辨别能力是应对AI带来问题的重要措施。对于新闻从业人员来说,要通过培训和教育,使其了解AI的工作原理和特点,掌握辨别AI生成内容的方法和技巧。

AI的发展势不可挡,它为人类带来了前所未有的机遇和挑战。我们既要充分发挥AI的优势,又要高度重视其带来的问题,加强监管和治理,共同维护良好的网络生态环境。
-END-
欢迎关注
传媒头条视频号

推荐优质行业微信公众号
欢迎关注

推荐文章,点击标题阅读:
又一媒体人突发疾病离世
国货卷出新高度,百雀羚为何选择“芒”个不停?
一家省级广播电视台包括台长,统一基础工资标准3500元
人民日报原副总编,再次履新!
两位前资深调查记者,出任大厂公关负责人
唐山宣传部部长,任上被查
慎海雄分管电影工作满月,行业开创多个先河
中宣部部长:深化文化体制机制改革
冯琳正式入职东方卫视
AI预测高考作文题!
张树庭任中国传媒大学校长

长按二维码 
免费关注传媒头条微信公号
传媒业的参与者、观察者、发现者
微信号:cmtt6636

传媒头条
传媒业的参与者、观察者、发现者。官网:http://www.cm3721.com/
 最新文章