比飓风更可怕的，是一张 AI 生成图片

文摘 2024-11-12 08:01 北京

一眼假的 AI 图片，但我爸妈全信了。

作者 | Moonshot
编辑 | 靖宇

9 月 26 日飓风「海伦妮」从佛罗里达州登陆美国，袭击美国南部多州多地，至今已造成超过 230 人死亡，「海伦妮」也已经成为 2005 年「卡特里娜」飓风以来，导致美国本土死亡人数最多的飓风。

与此同时，一张 AI 生成的照片，也在社交媒体上掀起轩然大波，甚至在下个月选举来临之前，引发了两党的「红蓝对决」。

到底是什么图片，能比飓风带来的影响更严重？

飓风营救 or

非洲秃鹫

共和党全国委员会的委员、Women for Trump 的联合创始人 Amy Kremer 发在 X 上推文「这张照片深入脑海，令我心痛」，配图是一个楚楚可怜的小女孩，身着救生衣，在救生艇上眼中含泪抱着一只小狗。

这类聚焦在单一受害者，无辜的女童不得不躲避灾祸的照片，都非常容易调动起人们的同情心，就像那张《饥饿的苏丹》，瘦骨嶙峋的小女孩背后是一只紧盯着她的秃鹰，越战中躲避燃烧弹的《凝固汽油弹女孩》激起过无数年轻人的反战情绪，那张学习中的「大眼女孩」也让希望工程深入人心。因此这张「飓风中紧抱小狗的女孩」照片也在社交媒体上被大量转发。

但在情绪过后仔细再看，小女孩的手臂和腿部极度光滑且和肤色不符，头发也呈现非常奇怪的纹理，大拇指骨节也呈现怪状凸起。没错，这张照片是一张 AI 生成的图片。

这张 AI 痕迹更浓了，但不妨碍收获百万级观看量｜图片来源：X

在被评论区的人指出「假图」之后，Kremer 直接发文开怼称「是啊，我是不知道这张照片是从哪来的，说老实话，哪儿来的无所谓。它已经永远烙印在我的脑海中了，有些人比这张照片所显示的经历还要糟糕得多。它象征着人们现在正在经历的创伤和痛苦。」换言之，她知道这张图片是假的，但她不在乎，因为她的目的不在于同情这位「AI 女孩」，而是攻击执政党应对「海伦妮」飓风的失责。

因为类似的 AI 照片也被极右翼政客 Laura Loomer、共和党 KOL 及特朗普支持者 Buzz Patterson 和 Juanita Broaddrick 转发，配文则是「我们的政府又让我们失望了」或「执政者抛弃了他们」。这些推文的传播量均已上百万。

传播只为甩锅｜图片来源：X

AI 假图片已经成了党派之间相互掣肘的政治工具，伴随着这张照片一同传播的还有各种阴谋论和假新闻，诸如「联邦紧急事务管理局正在准备把灾民财产充公」「当局在控制共和党支持州（飓风受灾州多为支持共和党的（红州）天气」。

相应的，Facebook 上也流传着特朗普冒着洪水帮助居民的图片，当然也是 AI 合成的。该帖子在两天内被分享了超过 16 万次。

图片来源：PolitiFact

特朗普本人也在前不久泰勒·斯威夫特公开表态支持民主党总统候选人哈里斯后，在自己的 X 上发布了「Swifties for Trump」（支持特朗普的泰勒粉丝），附上的图片全是 AI 生成的假图。

图片来源：X

这并不是特朗普第一次发 AI 假图，作为马斯克支持的候选人，特朗普不可能没有分辨 AI 内容的能力，毕竟不久前他还发布了他和马斯克一起跳舞的 DeepFake AI 合成视频。

但在碎片化的社交媒体平台，政客们不在意信息真假，不管是实拍还是 AI 生成的照片，只要有传播效力即可，造势才是社交平台上政治宣传的首要目的，感性的印象取代客观事实，「造谣一张嘴，辟谣跑断腿」的传播学原理在 AI 时代更猛烈地回响着。

谁在制造 AI 垃圾

但追根溯源，这些 AI 假内容是谁生成的，又怎么在各种社交媒体上广泛传播，能骗一个是一个的呢？

这张图加配文「亲手制作，谢谢大家的喜欢」在 Facebook 上收获了 87 万点赞，3.5 万的评论，然而它是 AI 生成的一张假图片。

而喂给 AI 的原图，则是一个木雕艺术家 Michael Jones 和他创作真实存在的木雕狗，Jones 的原帖只获得了 1063 个赞，110 条评论，与 AI 假帖相去甚远。

同时，在 Facebook 上还流传着不同种族、性别、狗的品种的类似图片，它们的来源都是 Jones 的这张图，这意味着任何人都可以每小时用 AI 创造上百张以假乱真的图像，然后在社交平台上随即发布，总有几条能斩获不错的流量和曝光。其中，Facebook 是重灾区。

去年底，科技网站 404 Media 的记者就发现，Meta 旗下的 Facebook 上明显是 AI 生成内容的帖子数量激增，同时也扩散到 Meta 旗下的 Threads。

Facebook 这种「一眼假」的图片数据都惊人的好｜图片来源：Facebook

为什么 Facebook 是重灾区？原因很简单：平台算法化赶上了用户老龄化。

在最近的一次财报电话会议上，Meta CEO 扎克伯格告诉分析师，为了跟上 TikTok 等平台的变化，Facebook 向用户算法推荐的帖子数量翻了一倍，推荐帖子现在约占用户主页的 30%。

然而据 OBERLO 调查机构的数据显示，Facebook 25 岁以上用户占比达到 77.4%，其中 35 岁用户以上占比达到 46.6%。对于大量出生在前互联网时代，可能在中年才开始使用社交媒体和智能手机的中老年人来说，理解 AI 是什么都费劲，更别提鉴别 AI 内容了。

8 月由斯坦福互联网实验室发布的论文《垃圾内容和骗子如何在 Facebook 上利用人工智能生成的图像来增加受众》也在测试中发现，他们用 AI 生成的图像总共获得了数亿次曝光。AI 生成的图文帖通常是标题党配合夺人眼球的图片，比如一个断腿的小孩子举着牌子说「祝我生日快乐」就能收获 7 万点赞和 3000 条评论。用户的评论也能显示出他们并没有意识图片是由 AI 生成。

而且算法推荐就像一个上升的螺旋，研究者发现，在点进几个 AI 生成内容帖后，哪怕没有关注和点赞，后续自己的主页也会推送越来越多的 AI 帖。已经有一些活人用户在 Reddit 上辣评「Facebook 已经变成刷不完的 Midjourney AI 照片墙了。」

一眼 AI 但能收获大量流量｜图片来源：404

骗流量之外，AI 假图片还想骗钱，比如就像上面显示的木雕狗，可能帖子里就会附赠「购买同款木制品」的链接，实际上并不存在这些产品，又或者会把观众引流到其他广告网站，像上面最火的木雕狗帖，点开评论区就发现置顶了一条宠物用品的销售链接。

更吊诡之处在于，许多照片可能正是用 Meta AI 所生成，Meta AI 的目的之一就是让照片以假乱真，然而这些照片骗过了自己的用户，矛盾至此转换成了流量的循环。

AI 生成垃圾内容影响的不仅是「老龄化」的 Facebook，就连曾经以高质量文本内容出名的「美版知乎」Quora，都不得不面对 AI 生成内容去稀释社区内容质量的现状。

更糟糕之处也在于，现在许多 AI 生成图片正在和现实牢牢捆绑在一起，就比如海伦妮飓风尚未平息，但在 AI 假图被识破后，每个用户都会质疑每一张照片的真实性，哪怕它是基于现实的实拍照片，在经过大量假内容稀释后，都要面临「真假美猴王」自证清白的窘境。

巴以冲突、美国大选、巴西洪水、海伦妮飓风……这些现实生活中真实发生的天灾人祸，在碎片化、简介信息、图文为主且注重高度时效性的内容社区来上，战地记者的实拍图收到的浏览量可能远比不过 AI 生成的假图片。

而这些内容往往都针对毫无戒心的老年人，他们基于同情心，贡献了自己的点赞和转发，不知不觉中却成了算法的帮凶。而这些 AI 的养料则是基于原创但不被看见的艺术家。

而作为具有重要责任的社交平台，例如 Meta，则陷入了 AI 的自我「矛盾之战」：用户使用 Meta 的 AI 工具生产出虚假信息和垃圾信息，将其发布到 Meta 平台，而 Meta 的 AI 团队则需要通过技术鉴别到底哪些是真实图片，哪些是 AI 生成的。

其中的讽刺耐人寻味——AI 生成技术团队越进步，审核和鉴别团队就越难做。

在垃圾信息已经充斥互联网的当下，AI 生成工具的诞生，无疑再次为网络垃圾化的进行提供了加速度。如果无法解决这个挑战，被「困在系统中」的不仅仅是用户，或者平台，而是所有人。

*头图来源：X

本文为极客公园原创文章，转载请联系极客君微信 geekparkGO

更多干货分享敬请关注我们的公众号与视频号~超多精彩对话内容等待您的解锁！

关于极新：

极新是垂直于产业AI的创投和行业研究媒体，致力于陪伴和记录科技企业进步和产业成长。已与多家平台和创新企业深度对话和合作，包括华为云、阿里云、百度智能云、金山云、飞书、火山引擎、钉钉、东软、Zoho、容联云、百家云等平台企业，以及智谱AI、百川智能、格灵深瞳、深势科技、百图生科、瑞莱智慧、创客贴、生数科技等高成长公司。

推荐阅读

2024投融资趋势追踪：1月 | 2月 | 3月 | 4月 | 5月 | 6月 | 7月 | 8月｜9月

http://mp.weixin.qq.com/s?__biz=Mzg5MDc0NjU2OQ==&mid=2247496778&idx=3&sn=457c2f209e28cd17b77c0ecc2bd8535d

极新

企业服务和硬科技垂直媒体，陪伴和记录科技企业创新与成长。

最新文章

【直播预告】硅基生产力平台的原生创新路径——对话孚知流创始人白双

月之暗面发布k0-math数学推理模型；微软 GraphRAG AI提效；雷蛇发布Gaiadex矿物级AI分解产品组件|极新早报

千万级人工智能项目，北京康邦科技有限公司（中） |「产业AI头条」

“算力黄牛”无法一夜暴富

讯飞星火多模态交互大模型上线；腾讯大模型 App元宝发布2.0版本；DeepL推出语音翻译解决方案DeepLVoice|极新早报

《出海时刻》深圳论坛圆满落幕，AI出海洞悉全球战略布局

千万级大模型项目，同济大学（招） |「产业AI头条」

从方言对话这枚“落子”，看AI手机“棋局”的尴尬赛点

对话深圳黄鹂智能联合创始人&副总裁王猛：未来消费电子的发展趋势一定是AI+硬件 | 极新企服直播实录

零一万物与华为启动合作；消息称小米成立 AI 平台部；英伟达与软银试运行“AI+5G” 电信网络|极新早报

千万级人工智能项目，连云港职业技术学院（招） |「产业AI头条」

智领未来，向新而行 —— 双院士领衔，2024人工智能大模型产业大会预热启幕

李彦宏：我们即将迎来AI应用的群星闪耀时刻

百度发布文心iRAG和秒哒；谷歌推出AI工具Learn About；通义千问开源Qwen2.5-Coder全系列模型|极新早报

千万级IT服务项目，中移系统集成有限公司（招） |「产业AI头条」

AI大模型落地，为什么是央国企先行？

AI公司推出Nous Chat聊天机器人；谷歌将为iPhone推出独立的Gemini App；人形机器人变身大厨煎牛排|极新早报

千万级数字平台项目，兰州市安宁区文化体育和旅游局（招） |「产业AI头条」

比飓风更可怕的，是一张 AI 生成图片

中国人工智能产业发展联盟第十三次全会将于今天召开

谷歌AI视频编辑应用GoogleVids上线；Mistral发布内容审核API；阿里测试AI视频创作工具Animode|极新早报

亿级人工智能项目，厦门市思明区科技和工信局（招） |「产业AI头条」

【点击报名】2024 AI创新者大会暨PEC·提示工程峰会即将来袭！

我用一招「隐藏术」，PUA 了所有大模型

活动回顾 | Meet未来 · 中国投融资市场前瞻圆满举办！

字节跳动AI助手豆包被曝开启视频生成内测；大模型小爱能力升级；AI“电子舌头”问世，可辨别味道、检测食品安全|极新早报

千万级人工智能项目，复旦大学（招） |「产业AI头条」

大模型“软饭硬吃”

举办2024·人工智能+未来产业发展大会的通知

活动倒计时1天 | Meet未来 · 中国投融资市场前

和恒咨询创始人徐朝华：从被看懂到稳定增长的破局之法

王慧文回归美团带队独立探索AI应用；三星计划提升Galaxy AI个性化体验；ChatGPT AI 搜索还不是谷歌杀手|极新早报

千万级大模型项目，深圳市宝安区信息中心（中） |「产业AI头条」

活动倒计时2天 | Meet未来 · 中国投融资市场前瞻即将启程

凯联资本董事总经理姚宁波：大模型浪潮下，更看好智能体领域的发展

炜衡律师事务所合伙人、维夏资本创始合伙人李可书：企业融资上市过程中，投资机构要做“耐心资本”

腾讯混元开源Hunyuan3D-1.0；昆仑万维发布天工AI高级搜索功能；GPT-4o mini的6.7/8.3 倍|极新早报

千万级大模型项目，中电信人工智能科技（北京）有限公司（招） |「产业AI头条」

巅峰之约 | 重磅嘉宾已就位，超详细议程！Meet未来·中国投融资市场前瞻为你而来

谷歌将为Chrome增强保护模式引入人工智能；字节跳动内测AI模型分享社区Lumi；戴尔在深圳成立AI智能解决方案中心|极新早报

千万级人工智能项目，中国移动（浙江）创新研究院有限公司（招） |「产业AI头条」

中国自动驾驶时代记：技术、理想和“真经路”

字节豆包大模型团队与香港大学发布并开源全新RLHF框架；夸克发布灵知学习大模型；中国电信TeleAI星辰语音大模型升级|极新早报

千万级人工智能项目，自贡市教育科学研究所（招） |「产业AI头条」

大厂做AI，卷到哪儿了？

首届国际人工智能及创意大会即将启幕！共同探索AI时代新机遇

活动报名 | 2024深圳AI出海论坛【跨越边界的创新】

人工智能融资趋于平缓，华为、小米、荣耀、OPPO持续追击AI能力，C端莫辜负|2024年10月人工智能投融资观察 · 极新月报

烯牛数据创始人李锦香：资本寒冬下的希望之光与技术浪潮

知乎直答上线专业AI搜索；百川智能推出一站式大模型商业化解决方案；Python 成 GitHub 最受欢迎编程语言|极新早报

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉