第12期（总第2365期）
如今，AI技术正以前所未有的方式改变着我们的世界。然而，AI在为我们提供便利的同时，产生的隐患风险也接踵而来。近日，张文宏“被AI带货”事件引发社会广泛关注，也让“AI换脸”再次成为人们热议的焦点。
“AI换脸”假冒名人事件频发
前不久有网友发现，疑似知名医生张文宏化身“带货主播”，在网络平台售卖产品。经核实，这个“张文宏”实际上是通过AI技术合成的，视频中的他不断介绍产品，声音和形象都与本人极为相似，导致许多消费者信以为真。
对此，张文宏回应称，这样假冒自己卖货的账号不止一个，而且一直在变，他已多次向平台投诉，但违规账号屡禁不止。
其实，张文宏的遭遇并非个例。近年来，通过AI深度伪造技术假冒名人的事件频繁发生。
2024年国庆期间，网络上出现了一些利用AI技术伪造雷军声音和形象的恶搞视频，视频中的“雷军”使用不雅语言对堵车等多个话题进行“锐评”，给雷军本人带来了不小的困扰。
2024年11月，江西一位65岁的女士为了资助其所谓的男朋友“靳东”拍摄电影，前往银行欲办理200万元的贷款。经调查发现，该女士在短视频平台上认识的“靳东”是骗子冒充的，骗子所发布的视频也是由AI合成的。
“眼见非实”的AI技术存在破绽
所谓“AI换脸”，实际上是通过精准识别人脸图像，提取关键面部特征，并利用深度合成技术将这些特征与目标人脸图像进行匹配、替换、融合。在此基础上，通过背景环境渲染和合成声音的添加，生成看起来非常真实的虚假视频。这一技术也彻底颠覆了人们对于“眼见为实”的传统认知。
技术本身并无善恶，只是一些不法分子为了谋取私利，滥用此技术，将一些名人的脸替换到特定的视频中，制造出虚假的内容，实行诈骗。
尽管换脸AI模仿能力强，但是并非没有破绽。通过AI合成的视频，往往存在许多AI痕迹。比如，人物的面部表情、眼神和动作可能不协调，尤其是在表情的细微变化和眼神的自然流转上；也会出现视频画面不连贯、背景与人物融合不自然等情况；同时，还会出现语音、语速和口型不匹配的问题。
此外，“AI换脸”也存在一定的局限性，如果进行面部和声音同时替换的操作，只能制作成视频，无法做到实时直播。
如何防范“AI换脸”带来的风险
当前，“AI换脸”技术带来的负面效应越来越多，亟需采取多方面措施来应对这些风险。
首先，平台应强化技术手段。严格审核账号上传发布的内容，对视频画面进行实时监测和分析，如果发现存在虚假宣传、误导消费者等行为，应及时采取措施进行干预。
其次，用户需要提高警惕性和辨别能力。在观看视频时要保持谨慎，不要轻易相信视频中的内容。特别是对于涉及到金钱交易、个人信息等重要事项，要通过多种渠道进行核实，避免上当受骗。
此外，立法、执法、司法力度仍需加强。目前，我国已经出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，然而随着技术的不断发展和应用场景的日益复杂，法律体系仍需进一步深化、细化，以确保立法能够紧跟技术发展的步伐，通过法治手段引导技术向善；在执法、司法环节，严厉打击利用“AI换脸”等技术进行非法活动的行为，减少AI违法犯罪对社会带来的负面影响。
来源：保密观
点击二维码关注直观天业
企业精神：团结、奉献、拼搏、创新
企业使命：创天山伟业 造天下绿洲
企业愿景：创建环境优美、技术领先、效益优良、员工幸福，受人尊敬的国际一流企业集团
企业价值观：履行社会责任、追求卓越绩效、关注员工成长、创建和谐企业
企业行为准则：安全铸根、环保铸本、质量铸基、诚信铸心、创新铸魂
发展理念：坚持创新驱动战略 打造循环经济发展新模式 实现绿色高质量发展
管理理念：发展天业，从安全做起；美丽天业，从环保做起；百年天业，从品质做起；和谐天业，从文明做起
营销理念：用质量与品牌打造信誉 用服务与真诚获取双赢
质量理念：全面管理 全员参与 全程控制 争创品牌
用人理念：为担当者担当、为负责者负责，让实干者实惠、让吃苦者吃香
激励理念：激励先进 激励创新 激励贡献
