上海人惊讶！“张文宏”开始深夜带货？已售出1266件…紧急提醒→

时事 2024-12-11 21:02 北京

最近，有网友发来一段视频询问，“张文宏是不是带货了？”视频中在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。

记者核实发现，这个账号名为“般画234”，在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的，但稍微懂点AI的小伙伴们，一眼就能分辨，这是AI合成的视频！但是老年人哪里懂甄别啊？

记者发现，这段视频已在该账号内不可见，但商品橱窗内，还保留着蛋白棒售卖的页面，并显示已售出1266件。

这和此前“假靳东”骗得无数阿姨砸钱一事，有异曲同工之处。

今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。

“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动的说道。

民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。

随即，民警向老人进行耐心劝导，但老人对假“靳东”仍然深信不疑，于是民警一边继续开展劝解工作，一边通知老人孙子前来共同劝解。

最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟过来，表示不会再相信网络上的“靳东”，对民警连连道谢，并放弃了开卡贷款的念头。

那么我们如何辨屏幕里的是真人，还是AI合成人呢？

蚂蚁集团天玑实验室安全算法专家朱凯建议，通过遮挡结合“动起来”的方式，来识别到底是真人还是“数字人”——比如，在摁鼻子或摁脸的同时左右摇晃头部，这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片，照片是平面的，所以生成的“数字人”以正面、平面为主。当人脸动起来时，会呈现出脸部的三维结构，算法只能基于平面的照片推测三维结构，按照现有的技术手段，推测结果大多不太理想，从而让人发现漏洞。

此外，可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时，脸部表情、手部动作都很自然；如果是“数字人”，很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面，但“挥手”“比数字”意味更多的动作，目前技术还没办法实时生成完美效果，从而出现破绽。

值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。

例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。

同时，在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。例如，可以询问对方只有当事人之间知道答案的问题、共同经历的事情等。

人民推荐

最低-4℃！上海迎大风+降温+冰冻，新一股冷空气马上来袭

上海市民惊呆：家里水龙头流出蓝色的水！自来水公司、物业回应

来源：上海网络辟谣、侬好上海、上观新闻、@晏秋秋视频号、大皖新闻

编辑：沐一帆、陈晨

人民网上海

权威、实力，源自人民——人民网上海频道“关注上海、服务上海”。站在央媒的角度，讲述上海的故事。

最新文章

事发上海街头！行人穿马路突然被撞身亡，一车主直呼“不公平”，法院改判→

多地明确：元旦上班！上海情况→

上海地铁突发！11号线受损，乘客已疏散！涉及这个方向的乘客不要乘坐→

上海通报3起形式主义问题！

上海一女子家里补个洞被灌进70斤胶水花掉近2万！受害者多达数十位！警方介入了！

上海一大厦突发火情，楼内居民被疏散，疑艾条燃烧引发

上海女童叠加感染3种病毒！最近发烧、嗓子疼的人好多，上海瑞金医院发声→

丘成桐人民日报撰文！

他任中共静安区委委员、常委、书记

上海浦东警方：金恪集团、艳阳度假等涉嫌非法集资被立案侦查

上海人注意：气温正在下降！夜里或有雨夹雪…今日傍晚，迎128年以来最早冬至，开局就偏冷

上海人盼了好久！全程仅40分钟，首乘体验→

确认！冷空气明天上午到上海，下周“湿冷”发威！气象博主良心建议→

上海市市管干部任职前公示！

放假通知！不调休！

终于等到！上海一经公布，瞬间冲上热搜！

上海市政府发布一组人事任免信息

他任新职！前任已跨省调任上海

“冷得令人发指！”周末上海冷空气来袭，下周"湿冷暴击"来了→

在上海成立的新央企，董事长是他

上海越江隧道+1，连接3个区！市民期待：不用堵在徐浦大桥上了！

上海一区政府党组书记调整

上海一区区管干部任职前公示

又一家央企在上海揭牌成立!

今晨突发！上海内环5车追尾，3车受损严重，2人送医

上海警方通报：一小区发生刑案

上海一培训机构“跑路”，老板失联，微信群秒解散！上百位家长懵了，有人刚续费1万6……

上海突然大量涌现！多地生意火爆！很多人想要贪便宜，其实并不便宜...

上海税务通报：他隐匿收入，偷税漏税！曾遭全网封禁，已注册小号更新…详情披露→

上海一区发布区管干部提任前公示

上海下冰雹、下雪了？官方回应！冷空气已开始影响，后面还有一波...

上海市闵行区一村干部被查！

上海警方通报：这3人刑拘！

上海市第十六届人大三次会议将于明年1月15日至18日举行

太危险！上海一高速公路搅拌桩机突然倒伏，砸中途经车辆

都12月了还在“嗡嗡嗡”！上海今天10万人出动...专家提醒：趁着冬天赶紧消灭掉

上海居民赴台旅游何时恢复？国台办回应

搞权色钱色交易，上海一高校党委原副书记被公诉！

2024年11月，上海市民最关注哪些文章？最新数据来了！

冷空气一波接一波！明天至周日最高气温可能仅一天“上双”……

不养猪了！27岁男子来上海“快速致富”，大麻埋在公园树下，已被警方抓获

别开门！别开门！别开门！上海已有人中招…网友：心都凉了

这个镇再添一处旅游“打卡地”！

上海嘉定发布火情通报

上海和平饭店298元套餐遭吐槽：只有一块蛋糕、一杯咖啡，还不能堂食？饭店回应

发现上海｜魔都冬日赏银杏指南

上海又一个区发房票啦！此前已有动迁户换到商品房，还额外奖励20万元→

老板一句“滚”，公司竟被判赔16万？法院释疑为何大反转→

8年吃了40多万，脸变正方形！多人被割舌甚至病亡…当心，一级致癌！

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉