【学保密】多位知名人士遭遇“AI换脸”，这些套路要警惕

政务 2025-01-18 16:54 内蒙古

如今，AI技术正以前所未有的方式改变着我们的世界。然而，AI在为我们提供便利的同时，产生的隐患风险也接踵而来。近日，张文宏“被AI带货”事件引发社会广泛关注，也让“AI换脸”再次成为人们热议的焦点。

“AI换脸”假冒名人事件频发

前不久有网友发现，疑似知名医生张文宏化身“带货主播”，在网络平台售卖产品。经核实，这个“张文宏”实际上是通过AI技术合成的，视频中的他不断介绍产品，声音和形象都与本人极为相似，导致许多消费者信以为真。

对此，张文宏回应称，这样假冒自己卖货的账号不止一个，而且一直在变，他已多次向平台投诉，但违规账号屡禁不止。

其实，张文宏的遭遇并非个例。近年来，通过AI深度伪造技术假冒名人的事件频繁发生。

2024年国庆期间，网络上出现了一些利用AI技术伪造雷军声音和形象的恶搞视频，视频中的“雷军”使用不雅语言对堵车等多个话题进行“锐评”，给雷军本人带来了不小的困扰。

2024年11月，江西一位65岁的女士为了资助其所谓的男朋友“靳东”拍摄电影，前往银行欲办理200万元的贷款。经调查发现，该女士在短视频平台上认识的“靳东”是骗子冒充的，骗子所发布的视频也是由AI合成的。

“眼见非实”的AI技术存在破绽

所谓“AI换脸”，实际上是通过精准识别人脸图像，提取关键面部特征，并利用深度合成技术将这些特征与目标人脸图像进行匹配、替换、融合。在此基础上，通过背景环境渲染和合成声音的添加，生成看起来非常真实的虚假视频。这一技术也彻底颠覆了人们对于“眼见为实”的传统认知。

技术本身并无善恶，只是一些不法分子为了谋取私利，滥用此技术，将一些名人的脸替换到特定的视频中，制造出虚假的内容，实行诈骗。

尽管换脸AI模仿能力强，但是并非没有破绽。通过AI合成的视频，往往存在许多AI痕迹。比如，人物的面部表情、眼神和动作可能不协调，尤其是在表情的细微变化和眼神的自然流转上；也会出现视频画面不连贯、背景与人物融合不自然等情况；同时，还会出现语音、语速和口型不匹配的问题。

此外，“AI换脸”也存在一定的局限性，如果进行面部和声音同时替换的操作，只能制作成视频，无法做到实时直播。

如何防范“AI换脸”带来的风险

当前，“AI换脸”技术带来的负面效应越来越多，亟需采取多方面措施来应对这些风险。

首先，平台应强化技术手段。严格审核账号上传发布的内容，对视频画面进行实时监测和分析，如果发现存在虚假宣传、误导消费者等行为，应及时采取措施进行干预。

其次，用户需要提高警惕性和辨别能力。在观看视频时要保持谨慎，不要轻易相信视频中的内容。特别是对于涉及到金钱交易、个人信息等重要事项，要通过多种渠道进行核实，避免上当受骗。

此外，立法、执法、司法力度仍需加强。目前，我国已经出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，然而随着技术的不断发展和应用场景的日益复杂，法律体系仍需进一步深化、细化，以确保立法能够紧跟技术发展的步伐，通过法治手段引导技术向善；在执法、司法环节，严厉打击利用“AI换脸”等技术进行非法活动的行为，减少AI违法犯罪对社会带来的负面影响。

来源：保密观

筑牢我国北方重要生态安全屏障

长按图中二维码关注我们

内蒙古生态环境

发布执行国家环境保护方针、政策、法律、法规和基本制度；公布全区环境保护法规和规章制度；公开全区环境执法监管、环境影响评价、污染防治、减排情况、核与辐射安全监管、环保资金安排、环境科技宣教、数据统计和生态文明等其他需公开的环境信息。

最新文章

内蒙古自治区2025年春节团拜会在呼举行孙绍骋致辞王莉霞主持张延昆出席

砥砺深耕笃行致远——2024年生态环境保护成绩单 · 综合保障中心（环境在线监控中心）

争先抓早跑好新年“第一棒” 铆足劲头交出发展“高分卷” 全区推动经济社会发展动员部署会在呼和浩特召开

孙绍骋主持召开自治区党委常委会会议暨自治区党委全面深化改革委员会会议

媒体纵览 | 生态环境部印发文件美丽中国建设实施体系不断完善（人民日报）

【学法治】一起来学习《中华人民共和国反有组织犯罪法》

【学法治】8大亮点，带你一图读懂《中华人民共和国反有组织犯罪法》

自治区党委常委会召开会议学习贯彻习近平总书记近期有关重要指示精神孙绍骋主持

自治区生态环境厅召开党组理论学习中心组（扩大）2025年第1次学习会

新春走基层：绿水青山的守护者

中小学生生态文化主题征文活动正式启动！

笃行不怠共奋进奋楫扬帆起新程——深入学习贯彻自治区党委十一届九次全会暨全区经济工作会议精神

自治区生态环境厅春节前夕开展集中走访慰问活动

自治区人民政府召开常务会议王莉霞主持

全文 | 生态环境部党组书记孙金龙在2025年全国生态环境保护工作会议上的讲话

全文 | 生态环境部部长黄润秋在2025年全国生态环境保护工作会议上的工作报告

“美丽中国，我是行动者”第四届内蒙古中小学生自然笔记大赛等你来参加！

绷紧安全生产之弦奏响春节和谐乐章

砥砺深耕笃行致远——2024年生态环境保护成绩单 · 生态环境监测处

笃行不怠共奋进奋楫扬帆起新程——深入学习贯彻自治区党委十一届九次全会暨全区经济工作会议精神

中共中央政治局召开会议中共中央总书记习近平主持会议

孙绍骋在自治区十一届纪委五次全会上强调一步不停歇半步不退让把全面从严治党不断推向纵深王莉霞张延昆出席

政府工作报告

“美丽内蒙古”专栏 | 孙晨光：勤学苦练担起环保铁军的中坚力量

砥砺深耕笃行致远——2024年生态环境保护成绩单 · 呼和浩特市生态环境局

笃行不怠共奋进奋楫扬帆起新程——深入学习贯彻自治区党委十一届九次全会暨全区经济工作会议精神

【生态环境分区管控制度改革实践】巴彦淖尔市落实生态环境分区管控守护“塞外明珠”乌梁素海

持续改善！2024年蓝天碧水“成绩单”出炉（新华社）

媒体纵览 | 2025年中国持续深入推进蓝天、碧水、净土保卫战（中新社）

聚焦自治区两会 | 自治区十四届人大三次会议胜利闭幕孙绍骋主持并讲话王莉霞张延昆出席

孙绍骋在自治区十四届人大三次会议闭幕会上的讲话

媒体纵览 | 八方面重点任务深入推进2025年美丽中国建设（光明日报）

【学法治】中华人民共和国反有组织犯罪法

【学保密】多位知名人士遭遇“AI换脸”，这些套路要警惕

《经济日报》权威访谈访内蒙古自治区党委书记孙绍骋：为推进中国式现代化贡献更多内蒙古力量

央视《新闻联播》专访内蒙古自治区党委书记孙绍骋：奋力书写中国式现代化内蒙古新篇章

聚焦自治区两会 | 自治区十四届人大三次会议举行第三次全体会议孙绍骋王莉霞张延昆出席

聚焦自治区两会 | 自治区政协十三届三次会议闭幕孙绍骋等到会祝贺张延昆主持并讲话

自治区出台生态环境保护督察整改工作实施办法

笃行不怠共奋进奋楫扬帆起新程——深入学习贯彻自治区党委十一届九次全会暨全区经济工作会议精神

“美丽内蒙古”专栏 | 李萌：扎根在美丽呼伦贝尔

《人民日报》权威访谈访内蒙古自治区党委书记孙绍骋：把祖国北疆这道风景线打造得更加亮丽

新华社权威访谈访内蒙古自治区党委书记孙绍骋：奋力书写中国式现代化内蒙古新篇章

习近平：进一步全面深化改革中的几个重大理论和实践问题

聚焦自治区两会 | 自治区十四届人大三次会议举行第二次全体会议孙绍骋王莉霞张延昆出席

聚焦自治区两会 | 自治区十四届人大三次会议主席团举行第二次会议孙绍骋主持

聚焦自治区两会 | 王莉霞在参加锡林郭勒盟代表团审议时说大力弘扬蒙古马精神跑出高质量发展加速度

聚焦自治区两会 | 张延昆参加阿拉善盟代表团审议时说以工作出新出彩推动发展提质增效

“美丽内蒙古”专栏 | 凝聚公众力量共建美丽内蒙古

砥砺深耕笃行致远——2024年生态环境保护成绩单 · 生态环境督察技术支持中心

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉