首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

关注 | 新华社批“AI污染”乱象

企业   2024-11-13 11:30   北京  

来源 | 传媒头条

作者丨胡炜（新京报传媒研究院）


近日，新华社发文从多个方面对AI提出了批评，《警惕“AI污染”乱象》一文指出，“去年以来，生成式人工智能在世界范围内掀起一波接一波的热潮，其颠覆性应用让许多行业和网民受益。然而，一块硬币有两面，伴随生成式人工智能而来的也有一些负面问题，由'信息垃圾'导致的'AI污染'越来越突出。” 

确实，随AI技术的飞速发展，互联网内容生产力也发生了革命性的变化，然而，这种技术的普及也带来了一系列问题：

  • 在某些热门社交平台上，充斥着大量AI生成的虚假账号；


  • 某小说平台的账号，依靠AI“创作”，一天可更新50部小说，月更字数上千万，但行文常常逻辑不通、辞藻空洞；


  • AI内容创作甚至亮相学术界，某顶尖高校学者在SCI发表的论文，因插图为AI生成，且错误百出，仅发表3天被撤稿，沦为学界笑柄……


 网络截图

随着AI带来的负面影响越来越多，尤其是在新闻和信息传播领域，几乎全面入侵。AI可以生成、伪造或篡改文本、图片、音频和视频，产生大量粗制滥造、真假难辨的“信息垃圾”，是时候对其进行全面审视了。 

01
AI在新闻领域的入侵

  • 新闻真实性受到极大挑战


AI的发展为新闻领域带来了翻天覆地的变化，从传统的人工采编模式逐渐向智能化、高效化的方向转变。但人工智能可能会复制或放大现有数据中的错误，生成虚假信息和宣传，新闻机构在使用AI时，也面临保持真实性和公信力的重大挑战。


有的MCN机构为博取流量，通过AI软件生成虚假新闻，导致大量网络谣言病毒式传播。今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱了公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。

新华社在《警惕AIGC数据污染“稀释”人类原创》一文提醒“生成伪造虚假内容，扰乱公共秩序”：生成式人工智能可以根据人的指令生成不存在的内容，极易被用于自动生成虚假新闻和谣言。深度伪造技术（DeepFake）正快速发展，图片伪造、音频合成和视频换脸在生成式AI的帮助下变得轻而易举，这些虚假内容能够以逼真的形式迅速传播，带来严重的社会影响。 

在《警惕“AI污染”乱象》文中指出：清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15种语言。一些专家认为，AI制造的“信息垃圾”产量庞大，且辨别难度较大、筛选成本较高。 
     

 

  • 版权归属问题复杂


传统版权通常归属于创作者或创作者雇主，但AI版权可能归属于训练数据的提供者、算法开发者、系统操作者甚至最终用户，这导致新闻、出版机构在面对科技企业推出的AI工具整合新闻和内容时，可能损失相关流量和广告收入。

当地时间10月21日，《华尔街日报》母公司道琼斯和《纽约邮报》对人工智能初创公司Perplexity提出侵权诉讼，指控后者抄袭受版权保护的新闻内容，并利用这些新闻内容生成对用户提问的回复，从而抢走了原本会流向这两家出版商网站的流量。而在一周前的10月15日，Perplexity刚刚收到了来自《纽约时报》的警告，要求其在10月30日前停止使用《纽约时报》的内容。很多网友对此也给出了自己的看法。


02
应对之策探讨

新华社在《警惕“AI污染”乱象》中建议：

应加大对AI学习和生成机制的源头治理。明确AI平台对源头素材的把控责任和对生成内容的监管责任，完善AI内容生成规则，强制对AI生成内容打上显著标识，提升AI技术的透明度和可解释性。

加强对AI生成内容的筛查监管。有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上，可开发相关的审查算法，规范生成内容向舆论场的流入及传播途径，及时发现并删除低质量或虚假内容。

提高用户对AI生成内容的辨别能力。网民应理性对待互联网信息，增强防范意识和识别能力，可使用反向搜索工具，检查内容来源和作者信息，分析内容的语言和结构特征，从而鉴“伪”鉴“劣”。       

 


对于新闻从业者，除此之外，还应注意：

一方面要明确AI应用边界。明确AI在新闻领域的应用边界至关重要。一方面，要确定哪些新闻内容可以由AI生成，哪些必须由人工撰写。例如，对于重大时政新闻、深度调查报道等需要高度准确性和专业判断的内容，应明确禁止使用AI生成，确保新闻的权威性和可靠性。另一方面，要规范AI在新闻编辑、分发等环节的使用，避免过度依赖人工智能而导致新闻质量下降。

另一方面，要提高对AI生产内容的辨别能力。提高新闻从业人员和公众对AI生成内容的辨别能力是应对AI带来问题的重要措施。对于新闻从业人员来说，要通过培训和教育，使其了解AI的工作原理和特点，掌握辨别AI生成内容的方法和技巧。

AI的发展势不可挡，它为人类带来了前所未有的机遇和挑战。我们既要充分发挥AI的优势，又要高度重视其带来的问题，加强监管和治理，共同维护良好的网络生态环境。
-END-

往期回顾

头条 | 姚欢庆：网盘存储“秒传式离线下载”业务的法律分析
关注 | 2025年，短剧还值得品牌“加投”吗？
头条 | 《大话西游》IP进军短剧，抖音剧场化迎“半年考”

 http://mp.weixin.qq.com/s?__biz=MjM5MjYwOTg1NA==&mid=2649600060&idx=2&sn=0d341dcddc7bde7df7e0155585b4d146
版话
版话运营主体中视瑞德，多年服务于国家级广播电台电视台、互联网公司、融媒体机构、新媒体行业，通过版话自媒体与您分享文化传媒行业内的热点、动态、原创文章。
 最新文章
头条 | AIGC辅助绘画侵权案
聚焦 | 歌词、编曲都不一样还会侵权？揭秘音乐行业的“克隆危机”
头条｜生成式人工智能训练数据的软硬法协同治理研究
原创|北京互联网法院课题组：AI生成声音侵害声音权益的法律认定——以殷某某诉北京某智能科技公司等人格权侵权案为例
头条 | 胡巧莉：人工智能服务提供者侵权责任要件的类型构造——以风险区分为视角
聚焦｜艺人&经纪人注意！舞台场地租赁合同中的隐藏风险有这些！
头条 | 最高检：依法监督纠正知识产权恶意诉讼
聚焦 | “五十岁保姆嫁豪门”、“退休返聘”……短剧会是“银发经济”下一风口吗？
头条 | 详解AIGC侵权第二案，什么是版权登记？
聚焦 | IP蛋糕易侵权 未经许可莫擅制
头条 | 张玉国等：出版业在AI时代的机遇与挑战及版权制度的应用
聚焦 | 以《只此青绿》为例，热门IP影视改编中，IP方如何玩转IP授权交易
头条 | 数字音乐“独家版权+转授权”模式构成纵向垄断协议的分析
聚焦 | 13年了，人类还在努力开发《甄嬛传》
头条 | 胜诉！网剧《隐秘的角落》向编剧致歉，关涉署名权
聚焦 | 被架空的《关于办理侵犯知识产权刑事案件具体应用法律若干问题的解释（三）》—简评上海三中院周某某侵犯商业秘密罪典型案例
头条 | 深度伪造：AI“变脸”成隐私与财富的“掠夺者”
关注 | 特朗普系列商标已经连续三年不使用
头条 | 《隐秘的角落》未给前三集编剧署名，法院最新判决生效！
案例 | 重复侵权！判处3倍惩罚性赔偿
头条 | AI写的小说，有没有版权？
关注 | 速评德、美最新AI版权案
头条 | “情节曲折得像电影”！郑渊洁宣布：维权成功！
案例 | 祝建军：未经许可抓取和使用他人数据构成不正当竞争
头条 | 胡开忠等：生成式人工智能机器学习的版权争议及应对
关注 | 新华社批“AI污染”乱象
头条 | 官媒下场，透露AI监管立法新风向
案例 | 无视判决继续侵权？适用惩罚性赔偿！
头条 | 姚欢庆：网盘存储“秒传式离线下载”业务的法律分析
关注 | 2025年，短剧还值得品牌“加投”吗？
头条 | 《大话西游》IP进军短剧，抖音剧场化迎“半年考”
案例 | 从“法国音乐无限公司案”谈录音制品获酬权的强制集体管理
头条 | 网易内部通报反腐结果：至少9人已被采取刑事强制措施！相关公司永不合作
案例 | 爱奇艺限制投屏案二审判了！原告获41天黄金会员VIP时长补偿
头条 | 谁是《骑手困在系统》真正作者？知名媒体点名新闻学者
关注 | 海报使用字体有侵权风险？聊聊关于字体著作权的二三事
头条 | 特朗普上台！对美国、中国和世界的影响
聚焦 | 被滥发侵权警告时也有招？解读请求确认知识产权不侵权之诉
头条 | 首届“中子星·小说月报影视改编价值潜力榜”发布，剑指IP影视改编新未来
聚焦 | 知识产权制度赋能民族传统文化赓续传承的困境与路径优化
头条 | 番茄《斩神》开启影视化征程，腾讯动漫IP版图再扩大？
案例 | 盗取游戏代码“换皮”运营，离职员工涉罪获刑！
头条 | 游戏、国漫、IP，二次元赋能新消费商业空间
关注丨中国出版走出去政策的作用机制及演化趋势研究
头条 | “预制音乐”的时代到了，人性经得起考验吗？
关注 | 雷军回应“雷军AI语音包”→
头条 | 文学、影视、音乐、戏剧等各界正联合抗议AI模型训练中的侵权行为：未经许可使用作品训练模型严重威胁艺术家生计
聚焦 | 为什么中国首例人工智能文生图案应当再审？
头条 | 单价上浮100%！优爱腾下场、长视频开始卷“短剧”了？
案例 | 利用软件爬取视频网站视频资源，构成不正当竞争！
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉