南都记者注意到,在网络流传的录音中,“卢文庆”对三只羊处理客诉问题、竞争对手等均发表了相关看法,还提及“与三只羊女主播之间的不正当关系”,录音内容迅速引发热议。随后,在录音中被提及的主播“七老板”和“卓仕琳”均在个人账号辟谣,称“录音和视频是假的,已经报警”。
针对该事件,26日晚,合肥市公安局高新分局发布警情通报称,9月20日,该局接三只羊公司报警称,网上传播涉卢某某的音视频不实,严重侵害其合法权益。
经过侦查,22日晚,合肥市公安局高新分局将犯罪嫌疑人王某某(男,25岁)抓获,并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据;结合其供述、调查取证,并经部、省专业机构检验鉴定,认定报案所涉网传音视频系伪造。
通报称,现已查明,9月16日,王某某利用从互联网下载的音视频资料,杜撰卢某某酒后言论脚本,先使用AI工具训练生成假冒卢某某的音频,后用视频软件合成音视频,其中出现的女声也系AI工具训练生成。王某某通过网络发布音视频,形成谣言大量传播。目前,王某某已被依法采取刑事强制措施,案件正在进一步侦办中。
➤ 事件解析:
三只羊录音伪造事件对公众看待AI技术产生了显著影响,近期对于AI如何在日常生活中的使用也产生了不同的议论。
此事件揭示了AI技术可能被滥用的风险,尤其是在伪造音视频、深度伪造(Deepfake)等领域。这提高了公众对AI技术潜在威胁的认识,促使人们更加警惕AI技术的不当使用。随着AI技术的发展,其在社会、经济与政治领域的影响力不断扩大,但同时也伴随着数据安全、伦理道德、法律责任等复杂议题。因此,构建一套完善的AI规范监督框架显得尤为重要。公众越来越意识到需要有相应的法律法规来规范AI技术的应用,以防止其被用于非法或不道德的目的。这包括对AI生成内容的标识、审核和责任追究等方面的规定。
事件使公众更加关注AI技术对社会经济结构的深刻影响,以及其可能带来的正面和负面影响。人们开始更加深入地探讨如何在推进AI技术进步的同时,确保其负责任地被使用。随着AI技术的快速发展,可能引发的风险也在不断增加,如主体异化、“数字鸿沟”等。这要求社会各界共同努力,构建伦理与法律双重规制机制,综合运用多种措施防范和规制其风险。
我知道,你“在看”