反诈预警 | 警惕AI换脸新型骗局

文摘   2024-09-25 20:24   江苏  

数字科技飞跃发展

“互联网+”时代

已经紧跟不断进步的网络技术而到来

“AI也在迅速进入大众生活

“AI”换脸变

被越来越多的人了解并熟知

而一些不法分子也盯上了这门“技术”

他们使用“AI”融合他人面孔和声音

制造非常逼真的合成图像

来实施新型电信网络诈骗

画面中技术人员正在演示的就是

“AI换脸”技术

仅需一张目标人物的静态照片

就能让照片中的人物动起来


中国网络空间安全协会人工智能安全治理专业委员会委员张博介绍,“尽管现在AI换脸、换声等有一定的技术门槛和操作成本,但如果被不法分子获取的情况下,就有可能被用来假冒他人,实施相关的犯罪活动。”

AI换脸、换声等技术

一旦被不法分子利用

还会成为敲诈勒索的工具

此类案例在各地已经发生多起

近期,宁夏固原市警方

接到辖区居民马某某报案称

自己被非洲务工

“表哥”骗了15000元

……

 ‌‍一起来看看

这起案件当事人

是怎么被骗的?


 ‌‍‎‏       


案 情 回 顾

固原市辖区居民马某某接到“表哥”视频电话“求助”后,毫不犹豫给对方指定账户转钱过去,殊不知,他已遭遇网络诈骗。

‌‍‎‏      ‌‍‎‏        ‌‍‎‏     ‌‍‎‏    ‌‍‎‏       ‌‍‎‏      ‌‍‎ ‌‍‎‏             ‌‍‎ ‌‍‎‏           ‌‍‎‏

马某某闲来无事,刷网络平台视频时“表哥”发来消息,请求将其添加为好友

添加成功后对方发来视频电话(对方利用AI技术换脸,视频时头像是其亲戚)称自己在非洲务工,网络不稳定,不方便转账,但是目前急需和公司签订一份合同

希望马某某能帮他给公司垫付合同资金,等网络稳定后在给其还钱。

基于对亲戚的信任,加上已经视频聊天“核实”了身份,小龙先后分三次把15000元转到对方指定的银行账户上。




‌‍‎‏      ‌‍‎‏        ‌‍‎‏     ‌‍‎‏    ‌‍‎‏       ‌‍‎‏      ‌‍‎ ‌‍‎‏             ‌‍‎ ‌‍‎‏           ‌‍‎‏



事后,小龙给亲戚发微信核实时才得知被骗,原来视频连线的“表哥”是“冒牌货”。

骗子通过AI换脸和拟声技术,佯装亲戚对其实施诈骗。

AI换脸的原理是什么?
如何一眼识别换脸破绽?

据了解

目前针对“AI换脸”技术
实施各类侵犯个人信息的行为时有发生
在灰色领域甚至违法犯罪领域被滥用
AI换脸的原理是什么?如何一眼识别换脸破绽,加以防范?
张博详细展示了AI换脸过程和原理,“只需要输入一张正面静态图片,借助人工智能技术,便可以‘移花接木’。”
他进一步介绍,AI换脸的3大步骤原理:面部识别追踪、面部特征提取、面部变化融合。“整体的原理是通过计算机深度学习,精准识别人脸图像,然后提取眼睛,鼻子,嘴巴等重要的面部特征,然后把这些特征与目标人脸图像进行匹配,替换和融合。”
如今“AI 换脸”技术已经比较成熟

甚至能够实现视频通话的实时换脸

虽然单凭肉眼很难分辨

不过张博指出

只要稍加留心

“AI换脸”还是有明显破绽

“马脚”就在面部轮廓和光线

识别“AI换脸”,重点关注哪些地方?

“如果接收到视频信息,视频通话,要仔细观察对方的面部轮廓是否存在异常的模糊,光线是否正常。”张博说道,“如果有必要的话,可以要求对方快速大幅度地抬头、点头,转头,然后来仔细观察这个过程当中,面部轮廓是否有异常模糊。”

现实生活中我们如何辨别AI换脸变声?
中国移动信息安全与管理运行中心副经理王晓晴表示,一方面,检查面部特征,观察表情和动作,以及声音和口型匹配度。另一方面,要观察情绪和语境,核实信息来源,让对方用手遮住面部或进行其他面部动作判断画面是否连贯。
不过张博指出

防止网络诈骗还是要从上游入手

首先要防止个人信息的过度外泄

预防个人信息泄露

以下几点要牢记

陌生WiFi ❌不要连

在公共场合连接免费WiFi时,极易碰到不法分子搭建的山寨WiFi。如果不慎连接,不法分子即可通过后台监控用户传输的数据,窃取支付密码等个人隐私信息。


钓鱼链接 ❌不要点

一些不法分子会假冒银行、学校等机构给用户发送短信或邮件,以“通知”“账户验证”等名义诱导用户点击其中的网址链接,如果不小心点开,手机、电脑系统可能会被植入病毒,其中存储的文件资料或个人信息也有可能被窃取。


不明二维码 ❌不要扫

二维码应用场景十分广泛,而且制作简单、真伪难辨,常常被不法分子用于传播手机病毒和恶意软件。一旦扫描了恶意二维码,手机后台就可能遭到非法入侵,相关权限也被控制,进而导致个人信息陷入被窥探和非法使用的风险中。


个人信息 ❌不要晒

机票、证书、照片等内容中包含姓名、身份证号、手机号、关键位置等个人信息,如果随意晒在朋友圈等社交平台,可能会导致信息泄露,给人身安全及财产安全带来风险。

END

来源:网络综合

编辑:孙梦雪

审核:李俊丽

监制:袁广建

耿圩发布
创建中国花谷核心区,打造沭阳城郊创业地
 最新文章