近期
一名82岁的外国退休老人
被骗走超过69万美元
（约495万元人民币）的毕生积蓄
这还要从老人观看的“视频广告”说起
“AI马斯克”直播。图源：凤凰网科技
不法分子通过AI工具“克隆”了特斯拉CEO马斯克，“AI马斯克”在视频广告中宣传着一个能快速回报的投资机会，且口型与声音都与真人高度吻合，甚至还能模仿马斯克标志性的南非口音。
老人在观看视频后信以为真，联系了该广告背后的外汇公司并开设账户。经数周交易，老人耗尽退休账户内资金，投资69万多美元，结果这些钱全部被卷走。
AI换脸诈骗
不仅发生在国外
近年来，国内也有不少人被AI换脸视频诈骗。
案例一：遭遇AI换脸诈骗，广州七旬阿伯险丢100万元
2023年6月初，来自广州的龚伯收到在外地经商“儿子”的电话，表示做生意失败需要龚伯转100万元给他周转，但自己的银行卡和手机刚丢失，故使用朋友微信加龚伯为好友，之后“儿子”发来微信视频要求转账到朋友账户。
龚伯随后给儿子打手机电话无人接听，但心想已看到微信视频，于是放松警惕。苦于年纪大不懂手机转账，便跟银行工作人员咨询怎么办理。
出于谨慎，银行工作人员建议龚伯现场再次致电儿子确认，这一次儿子的电话终于接听了，电话中儿子否认生意失败，更没有要求龚伯给自己转账。银行工作人员告知龚伯这是新型AI换脸的诈骗手法，成功劝阻其转账。
案例二：谎称朋友借用账户，10分钟内被骗430万
2023年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
案发时，他的好友通过微信视频联系他，称自己的朋友在外地竞标，需430万元保证金，想借用郭先生公司的资金走账。基于对好友的信任，加上已视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生拨打好友电话才得知被骗。
AI换脸到底怎么以假乱真？
一则反诈公益短片，让人直观地感受到一旦AI技术被不法分子滥用，将有多恐怖。
母亲正准备给视频中的“女儿”转账时，“真女儿”走进家门，而“假女儿”还在索要“生活费”。
随着人工智能等技术的快速发展，相关的应用正在进入我们生活的方方面面，然而这也给个人信息保护、数据安全带来了新的挑战。
图源：国家网络安全宣传周官网
“无痕换脸”门槛低
一张静态照片就能让人脸动起来
中国网络空间安全协会人工智能安全治理专业委员会委员张博称，目前的AI换脸技术仅需一张目标人物的静态照片，就能让照片中的人物动起来。
虽然AI软件的使用有一定的操作成本，但如今网络平台大肆制售“模板式”换脸软件，购买者无需掌握任何技术就能制作“换脸”视频，使得AI换脸的门槛降低。
此前，总台中国之声曾报道过AI换脸软件在网上公开售卖的消息，记者在搜索“AI换脸软件”后联系到一位开发者，他给记者提供了一段示范视频——双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
卖家展示的素人换脸效果（S为原视频，D为更换之后）
据悉，这一付费软件有不同版本。499元的初级套餐提供软件界面、视频指导、换脸模型等，而花费2888元，则能获得一对一指导。如此换脸软件在网上公开售卖，一旦被不法分子利用，后果不堪设想。
网络上提供多种不同等级的换脸软件产品
不只换脸，还能拟声
“真人感”让人难防范
据调查，AI拟声技术已成为简单易操作的“低门槛”技术，只需拥有声音“素材”，借助软件即可瞬间实现“AI克隆”。一些AI拟声工具甚至无需下载，也不收费，用户还能在输入文案时加入情绪的描述，使得AI拟声更具真人感。
图源：国家网络安全宣传周官网
近日，国家金融监督管理总局金融消费者权益保护局发布防范新型电信网络诈骗风险提示，将“AI换脸拟声”纳入其中，作为专门类诈骗。据介绍，AI换脸拟声类金融诈骗，多为不法分子以“网店客服”“营销推广”等为借口联系消费者，采集发音、语句或面部信息，之后利用“换脸”“拟声”等技术合成消费者虚假音频、视频或图像，模拟他人声音或形象骗取信任，诱导其亲友转账汇款等。
诈骗分子利用AI合成技术“换脸”“换声”，这种深度伪造导致受害者“耳听为虚”“眼见也非实”。那么，怎样才能识破AI“障眼法”？生活中如何防范个人信息被采集和泄露呢？
AI换脸拟声诈骗泛滥
到底怎么防？
让对方用手指或其他遮挡物在脸前晃动
可以要求其用手指摁鼻子，或用其他遮挡物在脸前晃动，如画面出现类似果冻效应或者扭曲，那对方很可能正在使用AI换脸技术。
图源：大皖新闻
询问对方一些私密的问题
可以通过询问对方自己的生日、电话、喜好等，来确认对方的身份。
要求对方线下见面
凡是对方提到转账、借钱等涉及经济往来的，为安全起见，可要求对方线下见面。
预防个人信息泄露
以下几点要牢记
陌生WiFi ❌不要连
在公共场合连接免费WiFi时，极易碰到不法分子搭建的山寨WiFi。如果不慎连接，不法分子即可通过后台监控用户传输的数据，窃取支付密码等个人隐私信息。
钓鱼链接 ❌不要点
一些不法分子会假冒银行、学校等机构给用户发送短信或邮件，以“通知”“账户验证”等名义诱导用户点击其中的网址链接，如果不小心点开，手机、电脑系统可能会被植入病毒，其中存储的文件资料或个人信息也有可能被窃取。
不明二维码 ❌不要扫
二维码应用场景十分广泛，而且制作简单、真伪难辨，常常被不法分子用于传播手机病毒和恶意软件。一旦扫描了恶意二维码，手机后台就可能遭到非法入侵，相关权限也被控制，进而导致个人信息陷入被窥探和非法使用的风险中。
个人信息 ❌不要晒
机票、证书、照片等内容中包含姓名、身份证号、手机号、关键位置等个人信息，如果随意晒在朋友圈等社交平台，可能会导致信息泄露，给人身安全及财产安全带来风险。
生物信息 谨慎录
日常生活中要提升对人脸、声纹等个人生物数据的保护意识，拒绝需要录入生物信息的非必要场景及非正规软件。
来源：苏州普法
编辑：沈 一
审核：袁 涛
签发：顾晓雯
往期精彩回顾
（点击图片可查看）
