重生名人引流
换脸形成黑产
不法分子利用AI换脸技术，将非法收集到的他人面部信息替换到淫秽视频中，形成一条上游提供软件及技术、中游提供视频和照片定制、下游售卖成品视频的黑色产业链，并通过创建群组、收取入群费用等多种方式牟取不法利益，社会影响恶劣。
借数字人恶意侵权
当前由AI技术生成的虚拟数字人逐渐在影视、游戏、传媒等众多领域现身并拥有强大的吸金能力，但对其著作权、表演权归属尚未有明确的法律界定，部分企业趁机钻法律空子，肆意盗用其他公司完整成熟的数字人形象，稍加改造进行表演宣传，并模糊水印标识，误导公众混淆企业品牌，或引发不正当竞争。
深度伪造实施诈骗
AI“复活”技术让不法分子借助智能AI换脸和拟声技术，就可以实施远程视频、电话诈骗。而一般群众普遍缺乏此类专业知识，不会也没有能力核实AI数字人的形象、言论的真实性，不法分子借“复活”之名行电信网络诈骗之实日益猖獗，其中不熟悉网络应用的中老年群体成为受害重灾区。
对此，笔者提出如下建议：
一是AI“复活”技术提供者提供服务前，需明确要求需求用户提供相关使用证明。确保逝者亲属资格审核、关系确认和形象授权符合要求，并严格遵守知情同意原则、隐私保护原则，确保数据使用的透明度与规范性。同时需要对AI生成内容进行明确标识，避免AI产品在传播过程中被用于欺诈等不法行为，侵犯第三者合法权益。
二是主管部门要加强技术防范。在法律法规基础上做好数据保护、涉诈犯罪风险等方面的监管，同时督促相关平台落实管理的主体责任，将借AI“复活”技术不当牟利的不法商家拒之门外，尽可能避免技术滥用带来的社会风险。
来源 | 人民法院报
编辑 | 徐珏、徐子安
