骗子来电声音容貌竟和家人一样?AI换脸拟声技术使用乱象惊人!

文摘   2024-11-14 10:20   宁夏  

“妈,8000元不够,给我转1.5万元吧。”一位母亲正和女儿视频聊天,听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”,她心疼不已打算立刻给孩子转账。就在这时,家门打开了,她的“真女儿”走了进来。而另一头,视频里的“假女儿”还在央求妈妈“给生活费”。

这是一则AI反诈视频。在这条反诈视频评论区中,不少网友反映自己也有过类似的被骗经历,“骗子来电,声音容貌和我家人一模一样”
  

AI换脸拟声技术已成为简单易操作的“低门槛”技术,只需拥有声音与照片等“素材”,借助软件即可瞬间实现“AI克隆”。实践中,一些不法分子试图利用AI换脸拟声技术实施违法犯罪活动。
 

“一天能做100个原创作品,这个工具太强了。”在社交平台某AI科技博主的短视频里,该博主向粉丝介绍一款视频换脸软件。屏幕中,博主所展示的两段视频中的女生除了五官不同,其余的外貌、穿着及动作完全一致。视频中,女孩不论如何转身或做出任何表情,面部都没有产生畸变。“一键就能高清换脸,让你们变成另外一个人。”

大家尽量不要在公共平台上过多地上传个人声音图像等信息,这些可能成为不法分子的合成素材。信息时代,每个人都应当增强个人信息保护意识、反诈意识。实践中,也可以与本人约定一些暗号,必要时对一下暗号再进行转账


部分内容|法治日报

编辑|陈一晨

监制|王晓强



点分享
点收藏
点在看
点点赞

西吉网警
西吉县公安局网络安全保卫大队官方账号,本账号不具备现场、紧急报警的受理功能,如您的情况紧急,请立即拨打110报警。
 最新文章