理振观点｜AI雷总爆火，究竟谁来担责？
学术
社会
2024-10-10 18:24
上海
在刚刚结束的国庆假期中，各大短视频平台出现了大量“雷军”锐评，锐评的对象上到游戏，下到国乒。但这些视频中的“雷军”言论，多为AI合成。虽然雷总的形象一直比较平易近人，入驻B站的时候还玩了自己《Are you ok》的梗，但在大批量涌现的AI视频中，二者性质显然不同。
AI雷总零帧起手，小米法务两眼一黑。
随着科技的不断迭代，市面上已经出现了大量AI配音的小程序，用户只需要选择对应的人物声音并输入文字内容，就可以使用他人声音发表言论，因此声音克隆的技术门槛可谓是越来越低。根据《中华人民共和国民法典》第一千零二十三条的规定，“……对自然人声音的保护，参照适用肖像权保护的有关规定。”可见声音作为自然人个人特征的一部分，与肖像一样受到法律的明确保护。任何组织或个人未经声音权人同意，不得擅自使用、公开或侵害其声音权益。伴随着AI技术的高速发展，声音合成早已不再是新鲜话题，但比起AI孙燕姿，大量的AI雷军锐评视频不但不强调视频声音是AI合成，还在片头加上言之凿凿的自我介绍：“大家好，我是雷军”，配图也使用真人图片。因此，其侵权的行为更加明确。单纯合成视频恶搞骂人，足以以假乱真的，雷军的肖像权、声音权、名誉权等都有极大可能受损，但部分网友甚至借机抹黑小米品牌、造谣生事，还有可能面临损害小米商誉、承担行政或刑事责任的风险。在2024年4月23日，北京互联网法院对全国首例“AI声音侵权案”进行了一审宣判。在该案中，作为配音演员的殷某某，因发现自己的声音被AI化后于某智能科技公司运营的平台中对外出售，遂作为原告以侵害声音权益为由，将某智能科技公司等五被告起诉到法院，主张被告的行为已经严重侵犯了原告的声音权益，被告某智能科技公司、被告某软件公司应立即停止侵权、赔礼道歉，五被告应当赔偿原告经济损失、精神损失。法院经审理认为，“自然人声音以声纹、音色、频率为区分，具有独特性、唯一性、稳定性特点，能够给他人形成或引起一般人产生与该自然人有关的思想或感情活动，可以对外展示个人的行为和身份。利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。本案中，因某软件公司系仅使用原告个人声音开发涉案文本转语音产品，而且经当庭勘验，该AI声音与原告的音色、语调、发音风格等具有高度一致性，能够引起一般人产生与原告有关的思想或感情活动，能够将该声音联系到原告本人，进而识别出原告的主体身份。因此，原告声音权益及于案涉AI声音。”由此，该案判决就为AI配音的版权问题提供了重要的指引，北互法院明确了在具有可识别性的前提下，自然人声音权益及于AI合成声音。而AI合成声音是否具有可识别性，应综合考虑行为人使用情况，并以相关领域普通听众能否识别作为判断标准。该案审判长，北京互联网法院副院长赵瑞罡在案结后也再次表示，“我们作为自然人，你需要注意保护你自己的声音。对于涉及到这些行业的企业来说，尤其要注意获得授权，必须得有合法的来源，否则的话会引发一系列的诉讼。”
说回近期兴起的AI雷军创作风潮，雷总早已凭借儒雅礼貌的声线和不紧不慢的语速让其声音深入人心。同时，雷总也因各种发布会不断，能够持续为AI训练模型的投喂提供大量素材，所以其声音克隆也只会越来越逼真。在这种情况下，AI技术发展的两面性就尽显无疑。AI技术的进步虽然为人们带来了许多便利和创新，但也给虚假内容的传播打开了新的大门。从创作者的角度来说，在未获得授权的前提下就使用他人声音进行配音创作，显然已经侵犯了声音权人的合法权益。至于创作的内容是否造成了更加严重的后果，这属于侵权结果的衡量范围，程度更严重的，还有可能违反《治安管理处罚法》和《刑法》。比如之前上过热搜的三只羊高管录音事件，最后查明录音是被AI训练声音之后再生成、合成到视频里的，而犯罪嫌疑人王某某已经被依法采取刑事强制措施。从平台方的角度来说，短视频平台发展迅速，因此平台方在管理用户生成内容方面的法律责任变得尤为重要。根据《网络安全法》等相关规定，平台方对用户发布的内容负有一定的审查和监管义务，尤其是在涉及侵犯他人合法权益的内容时，平台应当及时采取措施删除相关内容，防止进一步传播。对于AI雷军现象，平台方如果未能及时识别并下架这些未经授权的AI合成内容，可能被认为未尽到合理的审查义务，从而对侵权行为负有连带责任。但这一问题的复杂性在于，AI合成内容的识别往往比普通视频更加困难，因此平台可能需要依赖更加先进的技术手段来进行内容过滤。此外，平台还应提供便捷的举报通道，让公众人物和用户能够及时举报侵犯肖像权和名誉权的内容。AI雷军不仅反映了AI技术在娱乐领域的广泛应用，也暴露了其滥用所带来的法律风险。从某种程度上来说，这是技术进步与社会责任之间的矛盾。在未来，随着AI技术的进一步发展，类似的侵权问题将可能更加频繁地出现。为了应对这一趋势，公众需要提高法律意识和对AI生成内容的辨别能力，适度玩梗。与此同时，法律界、技术界和平台方也需要通力合作，通过完善法律框架、加强技术手段和提升平台责任意识，来有效规制AI合成内容的滥用，维护公众人物的合法权益，确保信息的真实性和网络空间的健康发展。简而言之，在法律和科技共同发展的过程中，公众、法律从业者和技术开发者都应保持警惕，共同面对技术发展的双刃剑。
目前，小米集团公关部总经理王化在微博和网友互动时表示已经把利用雷军AI语音骂人的相关内容转给小米法务部。根据检索结果来看，短视频平台也在将各类AI锐评视频逐步下架。科技无罪，法有边界。法律的最终目标是保护技术创新的同时，确保公民的合法权益不被侵犯。由于法律自身具有一定滞后性，AI技术在现有的法律领域的约束和规制尚处于起步阶段，相关立法还在不断完善。虽然《民法典》、《著作权法》、《网络安全法》、《数据安全法》、《个人信息保护法》等法律规定已经为AI合成内容的侵权行为认定提供了一定的法律依据，但是在AI技术的使用和监管方面，仍有很多细节需要进一步明确。
如果您有相关法律咨询，可以加入我们的“潜在客户群”，我们将在群内为您提供前期的专属法律咨询，扫码即可加上小助理，会自动回复您企业微信群。
在为客户服务同时，基于创始人的学术研究体系，我们也提供了“娱乐法训练营”服务，长年为娱乐法爱好者提供学习基地，我们会在这里打卡学习、收听课程、提交作业、还有线下聚会。目前已经聚焦了超千人爱好者，拥有两个专属学习群。长按上方扫描二维码即可加入，希望您能在这里找到您的同行者。
星娱乐法团队由上海理振律师事务所主任、创始合伙人李振武律师带领的多名精英律师组成，团队负责人李振武律师毕业于北京大学，具有演出经纪人、国家二级心理咨询师等行业资格，同时系上海音乐学院法律教师、上海仲裁委员会、长沙仲裁委员会仲裁员。主要专业领域为娱乐法、电子竞技、游戏产业、MCN与直播、个人品牌建设等行业之知识产权、民商事诉讼与仲裁、常年法律顾问等专项。
在为内容创意者和文创企业服务期间，团队已成功代理多起涉及肖像权、名誉权（含法人名誉权）、经纪合同解约纠纷、行业合同纠纷等，多起案件入选北京互联网法院、上海松江法院等典型案例。
团队长期从事娱乐法相关法律事务，笔耕不辍，本公众号运营近十年来，创作了近千篇娱乐法领域专业文章，成为娱乐法爱好者的聚集地。
团队负责人李振武律师同时也是法律领域KOL，曾荣登“微博十大法律新星大V” “知乎法律创作之星”等荣誉。
星娱乐法团队始终秉持“法商结合”的服务理念，擅于以谈判代替诉讼，比起后续纠纷解决，团队更倾向于非诉讼合规事项，真正做到案结事了，维护客户在行业内的名誉和资源。
添加公众号回复“1”获取文娱行业合同模板和电子书
点击阅读原文链接，加入娱乐法训练营
