「张文宏」开始深夜带货？本人回应...
文化
2024-12-17 10:33
加拿大
仔细看网友提供的视频，张文宏正在反复介绍一种产品，口型是他的、声音也是他的，乍一看跟真的似的。但仔细一看，视频画质潦草、口型也对不太上，对AI多少有一些了解的人们可以分辨出来，这是AI合成的视频。这段视频也在网友曝光后，从账号内被删除，只剩商品橱窗里还保留着售卖的页面，并显示已售出1266件事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这个事情后立即投诉过那个AI合成的视频，但是他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？！所以，我认为他侵犯了消费者的利益，相应的部门应该来进行处理。男演员靳东是不少妈妈辈中老年人的偶像，网络上“假靳东”骗局，其实持续多年了，但依然还有老人轻信。今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动的说道。民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟过来，表示不会再相信网络上的“靳东”，对民警连连道谢，并放弃了开卡贷款的念头。有人盗用他过去的影片，并利用人工智慧技术替换掉原有声音，假借自家名义代言一个不知名的药膏品牌。这种行为纯属欺诈，旨在误导公众并从中取利。犯罪团伙通过虚构名人、明星身份，编造的身份除了影视艺人，还包括金融大咖、业界翘楚等，再”邀请“真粉丝加入各种“粉丝团”“应援团”。1、我们可以要求对方在视频对话的时候，在脸部面前，通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰，他所伪造的人脸会产生一定的抖动或者闪现，或是一些其他异常的情况。2、在点对点的沟通过程中，可以问一些只有对方知道的问题，验证对方的真实性。3、还可以让对方通过按鼻子按脸的方式，观察其面部变化，真人的鼻子按下去是会变形，但AI生成的鼻子并不会，同样脸部也是一样的。值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。同时，在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。来源 | 综合看看新闻Knews、新闻透视、新华网
