国庆假期期间
短视频平台上出现了大量
“雷军AI配音”的恶搞视频
在视频中
“雷军”锐评了堵车、假期等
热门话题
其中还有一些不雅谩骂
有网友调侃称
“国庆上网被雷军骂了整整7天”
除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。
▲“雷军AI配音”的恶搞视频截图
在雷军的微博评论区中，连日来不断有人留言询问此事。
10月7日晚，针对网友“为何骂人”的询问，雷军回复了三个愤怒表情。
AI伪造音视频事件已发生多起
在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。
记者查询发现，目前市面上有大量AI配音的小程序，用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。
事实上，行业内，AI伪造音视频事件早已发生多起。
据报道，此前，一段疑似某集团创始人卢文庆醉酒后的音频流出，音频提到客服投诉、竞争对手和三位女主播关系，一时引发了大量讨论。
9月26日，安徽合肥市公安局高新分局确认，相关网传音频为AI伪造。9月27日凌晨，深圳言域科技有限公司发文称，三只羊事件使用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成，现在在加强安全管控措施。
律师解读
对此，北京律师表示，无论是普通人还是知名人士，未经其本人同意，擅自使用其肖像和声音进行编辑合成，甚至发布具有辱骂和诽谤性质的内容，明显侵犯了其相关民事权利，如肖像权、名誉权等。
《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律对此均有规定；国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。
律师称，雷军可以依据民法典规定，要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《中华人民共和国治安管理处罚法》相关规定的，也会面临行政处罚如行政罚款或（和）行政拘留。再者，如果这些恶搞内容传播谣言并造成严重社会影响，则可能触犯刑法。
律师分析称，对于深度合成技术的标识义务，已有相关法规要求在使用合成内容时进行标识，各个社交平台也已采取了相关措施，会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而，在实际操作中，对AI生成内容标识仍存在一定挑战。例如，合成内容经二次传播后，标识就可能被省略或忽视，导致接收方对内容来源产生误解。这会是接下来各个平台需要处理的课题。
对此，你怎么看？
文章来源：广东普法综合整理，主要内容源自中国青年报、21世纪经济报道、北京商报
推荐阅读
