首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

有图无真相，终究逃不出泛滥的AI垃圾

科技 2025-01-16 20:35 广东

作者：郭佳哿
编辑：林炯佳

当代年轻人怎么“拥抱”AI？

打开外卖软件，被商家用AI生成的店铺封面图吸引，点进去看到菜单，乍一看以为打开了AI图库；

打开购物软件，看到AI生成的商品图的一句“wow”，到点开评论实物图变成“woc”；

连公司门口放着的AI海报，都不用质疑那条蛇怎么龙不龙蛇不蛇，到底是哪个部门做的，AI就能解释一切的版权问题。

甚至，资讯平台看的是AI新闻，小红书刷的是AI美女图片，公众号下面的AI评论……不用怕跟不上时代，我们不需要拥抱AI，AI就会主动拥抱我们。

近期，美国加州山火持续肆虐，火势已摧毁多个社区。作为美国历史上代价最高的气候灾难之一，网上流传的现场图片简直就像灾难现场，感觉整个洛杉矶天空都被野火烧成红色。

于是，好莱坞山的标志牌被山火烧毁的消息开始充斥互联网，一阵哀嚎。

乍一眼看，你能看出真假吗？

X平台上不少账号通过发布这些不同角度的“好莱坞被烧”的图片和视频，声称“这可能是好莱坞末日的开始”甚至“美国陷入危机”，引起了中外网友的热议。

但事实是，这些骗过了不少人的眼睛和大脑的图片和视频都是AI生成的。

据法新社报道，截至1月10日，该通讯社驻洛杉矶的记者能够确认，坐落于山地的“HOLLYWOOD”标志仍完好无损。

此外，由美国国家航空航天局开发的全球火情监测系统FIRMS地图上也未显示在好莱坞标志牌附近有火情发生。

睁大眼睛，只要认真看视频，就会发现，除了英文拼写错误，树木摇摆的方向与山火和浓烟的运动方向其实并不一致，但在社交媒体上拿着手指10秒能划过2.3个视频的网友，并不会费脑子去思考：“诶，这个视频不会是假的吧？”吗？

同样是最近，在重大新闻上利用AI生图造假的新闻并不止这一件，抖音处理了超2万条利用AI技术制造的不实信息。

事件起因是近期在西藏发生地震灾害后，全网出现多起不当利用 AI 技术生成灾害场景的情况，给救灾工作带来了干扰。

图源：新京报

看到过这张图片吗？一个戴帽子的小孩被重压在倒塌的建筑物下，抖音多个账号用这张照片配文西藏日喀则地震，引起不少网友的“共鸣”。

图源：新京报

或许对已熟知AI套路的年轻人来说，这张照片从构图色彩，甚至五官上还能看出AI痕迹，但对更多数的网友来说，他们在评论区难受落泪，并不会下意识去注意图片疑点并加以质疑。

AI生成这些图片的风险有多大？

用AI制造苦难，去刺激网友神经和情绪，极易让他们对灾情的严重程度产生过度的恐慌和焦虑，引发社会层面的不安和混乱；而狼来了的故事讲多了，过度消耗网友的同情心和爱心，也会让网友对后续真实的灾情信息产生怀疑和抵触情绪。

而如今，AI生成的互联网垃圾已然开始侵入我们的日常生活，并模糊网友的判断。

从大模型爆发至今，AI发展了2年后，还有什么东西是AI不能生成的呢。

近日，阿里推出商用级图生视频AI应用，目前已对淘宝天猫商家开放使用。而早前，淘宝商家就已经可以通过拍个商品的平面图，让AI模特一键上身。更别说，有些商品图片都是AI生成的。

怎么说呢，用AI产品图，套到AI美女身上，然后用AI使其变成视频。

一条龙服务，淘宝赚钱了、商家省钱了，只有消费者，在一堆AI图片中，迷失在买家秀和卖家秀中开始容貌焦虑。

图源：小红书

就连餐饮行业，也已经有AI应用能一键生图，只需要导入文字菜单，就能帮你自动生成图片，还能自动生成菜品描述。但这是消费者想看到的“菜单”吗？

不仅日常消费，AI早在去年也已经让学术论文出现毛病。

据硅星人报道，去年初，西安交大一篇论文因为使用AI生成的配图而被撤稿，相关图片中，大鼠长出了诡异的器官，细胞信号传导图像电路板。而在另一篇论文的一张配图中，小腿和手臂的骨骼数量出现了明显的错误。

就连近期，我想着临近过年，便在搜索引擎搜索“蛇年海报”想着看点素材，一看，AI占比过半。

“有图有真相”时代已然不再，让公众在面对每一则信息、每一张图片、每一条视频前，都要先去判断是否是AI，实在是互联网的不该。

更重要的是，这些AI内容其实都是人类“创造”出来的，生成式AI的输出需要大量数据的训练，而这些数据就来自我们人类之前创造出来的每一个字符。

随着互联网开始充斥大量AI垃圾，图片库被污染，视频库被污染，这些AI生成的内容重新流入互联网，垃圾进垃圾出，最终又会成为训练未来AI模型的一部分数据。

就像现在的蟑螂药，它不会立刻毒死蟑螂，而是在体内积累，待蟑螂回到巢穴时发作，再一窝端。

当AI成为污染源，互联网将如何面对信息质量的危机？

早在去年，抖音、视频号就已经开始限制数字人直播，包括几个月前抖音也开始针对那些利用AI骗取老年人互动的视频进行整治。但AI治理不能永远等到问题发生后才进行补救，关于AI内容的审核、治理和监管，平台要承担起主体责任，采取主动和预防性的管制体系。

AI时代的到来已成定势。AI治理或将成为互联网下一个五年的共同命题。

都看到这里了，拜托点赞+

引领科技潮流，探索科技趋势。

最新文章

iPhone 16只要4499，国补这么用才是最划算!

直接硬刚，TikTok明天能破生死局吗？

执掌十年的赵明离职，荣耀新任CEO李健什么来头？

有图无真相，终究逃不出泛滥的AI垃圾

iPhone 销量暴跌，苹果在中国的苦日子要来了？

TikTok跌倒，“瑟瑟发抖”的小红书不敢吃饱

CES上的AI：英伟达抢流量，小厂猛追花样多

短剧的冰与火：谁在亏谁在赚？

AI搜索领域，能长出下一个“小红书”吗？

智能眼镜+AI，下一个VR，还是智能手机？

一个AI玩偶轻松上万块，谁在为情绪价值生意买单？

荣米OV冲击高端5年，回到原点了？

年薪百万招不到人，AI工程师都去哪了？

小米，从一家互联网公司变成制造业公司了

AI到底有没有护城河？

中国机器人，逆袭日本

尴尬的双12，撬不动消费者钱包

芒果TV做电商，靠的不是麦琳

美团的金矿，还没挖完？

128GB的大平板，怎么叫成“闺蜜”就能卖到4000元？

一万六的手机，一百万的车，华为只打高端局？

AI产品还在卷，观众已经看麻了

共享单车第十年，你的ofo押金退了吗？

靠国补回血的京东，双11投诉率比淘宝还高

李子柒回归，平替们天塌了？

“霸总爱上阿姨”或迎终局，谁在瞄准老年人？

陈欧消匿背后，是中国电商的一朵浪花

单飞第100天，董宇辉还在靠女人吃饭

谁说钢铁侠不能是女生？

车市最强“金九银十”背后：谁吃肉，谁喝汤？

你还在围观，00后已经用AI花式赚钱了！

逆天了！国产新机内卷大战，卷到最后变集体涨价？

小杨哥的切片成功学，李诞能复制吗

81.49万！小米SU7 Ultra炸场，小米15反成“局外人”？

焦虑支付宝，“盯上”年轻人的钱包

万万没想到，双11淘宝京东竟被闲鱼偷家？

“纯血”鸿蒙走出襁褓，华为全面迎战苹果、谷歌

“军备竞赛”之后，算力新的破局点在哪？

互攻腹地，美团拿走了小红书的错误答案？

接连破亿，谁是双11最大电商赢家？

流水的主播，铁打的双11：谁救谁？

风口上的智慧农业，如何更“接地气”？

赚吆喝不赚买卖，国庆旅游量涨为啥却价跌？

不再骄傲的阿里，正在拼命抱团

苹果iPhone 16首周销量出炉，究竟是大涨还是不如预期？

外卖都卷到9块9了，京东为什么还来掺一脚？

高通，凭什么收购英特尔？

“小红书味”餐饮团购上线，逃不过美团碾压？

股价跌回十年前，英特尔怎么了？

掌动智能：做行业唯一的“小巨人”，链主企业如何造血？

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉