“张文宏”开始深夜带货?已售出1266件…紧急提醒→

时事   2024-12-11 19:31   江苏  

什么?

“张文宏”开始带货了?

最近,有网友询问

“张文宏是不是带货了?”

视频中

“张文宏”在卖一种蛋白棒

家里的老人信以为真已经下单

还转发了很多群

记者核实发现
这个账号名为“般画234”
在视频中
“张文宏”反复介绍一种产品
口型是他的,声音也是他的
但稍微懂点AI的小伙伴们
一眼就能分辨
这是AI合成的视频!
(但是老年人哪里懂甄别啊?)
记者发现
这段视频已在该账号内不可见
但商品橱窗内
还保留着蛋白棒售卖的页面
并显示已售出1266件
近年来
AI剪辑冒充明星的案例屡见不鲜
也有不少人因此上当
↓↓↓
男演员靳东是不少妈妈辈中老年人的偶像,网络上“假靳东”骗局,其实持续多年了,但依然还有老人轻信。
今年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’,‘靳东’向我表白了,并用两人合照发布了短视频,现在他拍戏需要200万元,我要去帮助他。”老人略显激动的说道。
民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。
随即,民警向老人进行耐心劝导,但老人对假“靳东”仍然深信不疑,于是民警一边继续开展劝解工作,一边通知老人孙子前来共同劝解。
最终,民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才幡然醒悟过来,表示不会再相信网络上的“靳东”,对民警连连道谢,并放弃了开卡贷款的念头。

今年10月
老牌港星黄百鸣
在社交媒体上发布声明
↓↓↓

有人盗用他过去的影片,并利用人工智慧技术替换掉原有声音,假借自家名义代言一个不知名的药膏品牌。这种行为纯属欺诈,旨在误导公众并从中取利。

今年9月
陈佩斯的父子账号
曾发布相关声明
说要跟某些冒充陈佩斯
发布煽动言论的违法账号
硬刚到底!

犯罪团伙通过虚构名人、明星身份,编造的身份除了影视艺人,还包括金融大咖、业界翘楚等,再“邀请”真粉丝加入各种“粉丝团”“应援团”。

那么
如何辨别

屏幕里的是真人还是AI合成人呢?


学会三招识别AI“换脸换声”

可以要求对方在视频对话的时候,在脸部面前,通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰,他所伪造的人脸会产生一定的抖动或者闪现,或是一些其他异常的情况。



在点对点的沟通过程中,可以问一些只有对方知道的问题,验证对方的真实性。



还可以让对方通过按鼻子按脸的方式,观察其面部变化,真人的鼻子按下去是会变形,但AI生成的鼻子并不会,同样脸部也是一样的。


值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展,“动起来”“挥手”“比数字”等有可能难不倒新技术,“数字人”同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范AI诈骗,还是要从自己出发,做好信息保护,提高警惕。
例如,不要泄露个人信息,尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等,个人公开在外的照片、视频越多,意味着AI算法参考的数据越多,生成的“数字人”会更真实。
同时,在涉及资金交易等场景下,需要多留心眼,不轻易相信视频、声音。很多时候,传统的识别方式要比技术识别更有效。

再次提醒大家

↓↓↓

一定要擦亮眼睛

要知道网络上充斥着各种“高仿”

不要遇到喜欢的公众人物
就盲目相信
谨防诈骗!

来源|新闻坊、侬好上海、大皖新闻等

编辑|苏小新


点分享
点点赞
点在看

苏州新闻
以“权威、民生、亲切”为理念,以“更高、更深、更广”为要求,与您一起见证城市传奇、共同关注市民冷暖,期待你我携手新媒体、实现新发展。
 最新文章