国庆期间闲着没事干的网友来整活了，这次居然用AI恶搞老实人雷军。
于是短视频平台就出现了AI雷军用国粹大骂，称要“远程控制小米手机自爆”的视频，网友们就这样被AI雷军追着骂了一个假期。
现实的雷总温文尔雅，AI的雷总破口大骂。
对此，雷总一怒之下怒了一下。
小米法务部和雷军本人还没出手，网友们先心疼上雷总了。
毕竟这件事可不同于雷军买下版权的个人成名曲《Are you OK》。
这些AI雷军大多内容低俗且恶趣味，一般都会扬言“远程操控小米手机和小米SU7爆炸”，要是真有人信了，影响的可能就是小米产品的声誉。
目前，AI雷军已在短视频平台大量下架。
小米集团公关部总经理王化表示已经把AI雷军事件交由小米法务部处理。
搜索发现，短视频平台上很轻松就能找到AI克隆雷军声音的教学，还引来不不少网友观看。
教程中克隆雷军声音的AI工具叫Reecho睿声，该平台由一位00后创业者开设，今年2月才正式上线。
产品官网显示，商业伙伴已经有Keep、央视网等。
5G冲浪的网友或许对款工具有些耳熟。
9月份闹得沸沸扬扬的“三只羊录音门”中，被指控是AI伪造的录音用的也是这款工具制作。
9月，一段疑似三只羊集团创始人卢某某醉酒后的音频流出，迅速引爆互联网，音频中卢某某对三只羊处理客诉、竞争对手等话题发表了相关看法，还自曝与三只羊旗下女主播有不正当关系。
对此音频中被提及的女主播七老板及大杨嫂就否认了音频真实性，并表示音频为AI合成。
不过当时的网友们十分有九分的不信，表示AI肯定不能克隆醉酒语气、脏话和安徽口音！连国内最顶尖的AI技术都无法做到。
直到合肥警方通报一出，伪造音频的嫌疑人落网，这个结果也是出乎了所有人意料。
音频经查实是由卢某某30秒的直播片段克隆生成，而卢某某经常喝醉酒开直播。
有使用过睿声产品的AI业内人士透露，要达到伪造卢某某音频那种逼真的效果，AI无法做到一键生成，但如果有心之人一段一段生成去伪造这段音频，也是可以做到的。
而睿声的主要吸引力是可以完全模仿音色。
克隆声音的流程非常简便。
首先，用户上传一段音频文件作为训练素材。
接着，AI会自动学习这段音频，生成一个克隆角色。
最后，用户只需输入文本，克隆角色就能用其声音朗读任何内容，在十分钟内完成个性化定制音频。
如果选择更高精度的“专业克隆”，则需要1分钟到60分钟的训练素材。
198元即可定制一个角色，千元出头能定制6个角色。
难道AI已经神乎其技到可以模仿人类的情绪和语气？
的确是可以做到的。
去年12月，有一篇研究开发出能模仿人类声音特征的人声克隆技术，让AI更好地模拟人类在不同情感状态下的表达方式。
该研究收集了10位参与者在三种情感状态（自信、中性、怀疑）下读出的句子，并使用华为的小艺助手来训练AI模型，以克隆这些情感状态下的声音特征。
最终研究发现，人在表达自信时，通常会拉长声道、降低音调、提升声音强度。
而表达怀疑时，则缩短声道、提升音调、降低声音强度。
研究还发现男性和女性在表达情感时存在一定差异。
例如，男性表达自信时的声道拉长幅度更大，而女性在表达怀疑时基频提升幅度更高。
AI也能够模拟类似的声音变化。
仅仅过了4个月，在今年4月份，微软与中国科技大学、香港中文大学（深圳）和浙江大学等机构合作，就推出了NaturalSpeech 3系统。
这是一个声称“零样本、仅听3秒提示音频，即可1:1复刻人声。”的AI人声克隆系统。
尽管AI人声克隆技术的发展如此迅猛，但潜在的滥用问题也让企业踩下了刹车。
就例如微软研究出为失语症、肌萎缩侧索硬化症患者生成语音的VALL-E 2文生音语音模型就因为“效果逼真”不对外推出，避免滥用和道德问题。
真实的AI人声克隆，可以以假乱真地冒充他人，为身份盗窃、散布虚假信息和侵犯隐私创造了潜在的严重滥用风险，甚至引申出法律层面的问题。
今年4月，北京互联网法院对全国首例"AI声音侵权案"进行了一审宣判。
该案中，配音师殷某发现自己的声音被AI化后，在一款名为"魔音工坊"的APP上以"魔小璇"的名义对外出售。
法院认定，被告方使用原告声音开发AI文本转语音产品未获得合法授权，构成侵权，并判决被告赔偿原告各项损失25万元。
针对近日AI雷军视频的疯传，北京协理律师事务所的周卫律师表示，未经雷军同意，利用AI软件编辑他的视频和声音进行恶搞，可能侵犯雷军的肖像权、声音权和名誉权。
如果这种行为导致谣言产生，可能违反治安管理处罚法或刑法，恶搞者可能面临拘留、罚款甚至监禁的风险。
AI的快速发展超出想象，未来的可能性虽让人兴奋，也让人警惕。
刚刚获得诺贝尔奖的“AI之父”辛顿也曾表示：“我们很难想象，如何阻止坏人利用AI来做坏事。”
