近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗。
据央视报道，近期陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。因为声音还有视频图像都跟老板人长得一样的，所以就确信这笔款是他说的了，然后直接就把这笔款转了。当打电话再跟老板去核实，老板说他没有给她发过视频，然后也没有说过这笔转账。张女士这才意识到是遭受“换脸换声”诈骗，被骗的张女士连忙报警求助。
无独有偶，近期，香港警方也披露了一起AI“多人换脸”诈骗案，涉案金额高达2亿港元。
在该起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议。并按照要求，前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗。警方调查得知，这起案件中，所谓的视频会议中，只受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。
上述两个案件发生，是相关的视频软件使用中，未在技术层面使用真实性保护、完整性鉴定的技术手段，使用者无法通过人眼分辨视频真伪。经过多年研究格尔软件股份有限公司已成功研制出视频完整性保护系列产品，通过商用密码技术实现对各类视频的机密性防护、完整性保护，可有效解决视频的伪造问题。产品部署如下图：
商用密码基础支撑系统提供视频完整性保护的密码基础设施，设备身份管理系统实现对设备的身份管理。数字证书管理系统实现对视频设备的证书发放。使用商用密码SM2、SM3算法，通过密钥协同运算等技术，在生成视频数据时对视频数据进行签名。在接收到视频播放时，对视频进行完整性/真实性鉴定。格尔软件的视频完整性保护产品可为视频会议、视频直播、在线教育、金融服务、实时对话、公共服务等场景的视频应用提供保真鉴假服务。
关于格尔软件
2023.12.28
用“芯”相连，与“尔”同行 | 格尔软件携手兆芯构建国产密码安全底座
2023.12.08
新总部迎来首批投资者｜“我是股东”投资者走进上市公司活动走进格尔
2023.12.01
