张一鸣开了个好头。
在今天这个时代，人工智能（AI）技术已经变成一个似乎无所不能的魔术师，大家想看什么自己剪，想听什么自己生成。
但有的时候，这位魔术师并不是那么“遵纪守法”——恶意抹黑信手拈来、骗人钱财也不在话下。
很多名人和大型企业对这玩意儿都十分头疼，更别说辨识能力有所下降的老年人了。
大面积、大尺度的造假自然有人来管，那这些普通人日常受骗又该找谁呢？
因此，作为ai视频充斥的自媒体平台，抖音不得不站了出来。
近期，抖音官方发布了一则公告，宣布将严厉打击利用AI技术骗取老年人互动的行为。
视频源：抖音
让军人形象说“娘，别滑走，孩子想和您谈谈心”、“亲爱的母亲，我正在执行任务，给我一点鼓励”；
视频源：抖音
甚至还有直接生成的AI美女，说“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”。
以此来骗取老年人的点赞、关注和评论，甚至导流获利。
这些行为，抖音表示，严重违反了平台规则，违规视频一律下架，对违规账号采取取消其投稿和营利权限、封禁账号等处置。
另外，抖音宣布会持续利用模型、技术识别等手段，提高系统识别能力，进行进行长期系统的识别发现和及时处置。
要知道，去年5月抖音就有先见的发布了《抖音关于人工智能生成内容的平台规范暨行业倡议》，规定AI创作内容必须要有显著标识。
只不过当时只是规定，并没有严格控制，声不声明AI创作完全由作者自己决定，以至于被一些恶人找到了空子。
无独有偶，就在上周，新华社也发布了一篇文章抨击当下的“AI污染”乱象。
在这篇文章中，新华社指出，现在的社交平台上充斥着大量AI生成的虚假账号，有些小说平台的账号依靠AI“创作”，一天能更新50部小说，不过这些小说的内容常常逻辑不通、辞藻空洞。
更离谱的是，AI内容创作甚至混进了学术界，有顶尖高校学者在SCI发表的论文因插图为AI生成且错误百出，仅发表3天就被撤稿，成了学界的笑柄。
对于这种现象，新华社直接一针见血地指出“‘AI污染’会反噬AI产业的发展”。
所以，新华社也给出了一些建议，其中的一些想法与抖音不谋而合：
① 加大对AI学习和生成机制的源头治理。具体点，要求作者强制对AI生成内容打上显著标识。
② 加强对AI生成内容的筛查监管。
③ 提高用户对AI生成内容的辨别能力。这一点最难，毕竟AI技术越来越猛，年轻人可能还好，老年人很容易信以为真。
不过，AI技术的发展应该受到监管，不能让它成为制造“信息垃圾”的工具。
AI技术越强大，越需要在一定的规则和监管下使用。
毕竟，要是看个魔术就被魔术师把包里的钱给全变没了，搁谁身上谁都接受不了。
要是AI造假的视频只有上面视频中的那种程度倒也还好，不至于大多数人都看不出来。
但如果他们变成你崇拜的明星、企业家，你还能保持“火眼金睛”吗？
著名香港演员“开心鬼”黄百鸣最近就遇到了这样的烦恼。
有人在社交媒体上发布了一段经过AI技术处理的视频，视频中的声音被替换成了黄百鸣的声音，用来为一个不知名的药膏品牌代言。
黄百鸣立刻发表声明，明确表示这是欺诈行为，目的是误导公众并从中获利。
只能说这群人脑洞真大，没钱请明星代言，就只好AI一个。
这还只是代言，前几年“ai靳东”火遍全网，让靳东“被迫”成为不少中年女性的梦中情人，对靳东本人的形象同样带来了极大的困扰。
更狠的是，最近就连股神巴菲特也不得不站出来发声。
巴菲特旗下的伯克希尔·哈撒韦公司在官网上发表了一份罕见的声明，强调巴菲特不会在社交媒体上推荐任何投资产品和政治候选人。
图源：Berkshire Hathaway
声明中强调，现在人们越来越多地使用社交媒体，关于巴菲特代言投资产品以及他支持政治候选人的欺诈性声明层出不穷。
也不难怪今年5月，巴菲特把AI叫做“原子弹”。
而在国外，像巴菲特和亚马逊创始人杰夫·贝索斯等商界大佬，是AI诈骗分子最钟爱的复制对象。
这些诈骗分子利用AI技术，制造出以假乱真的视频和音频，以此来欺骗投资者和公众。
并且这种事很早就有人做了，只是没想到今年以来他们越来越猖狂。
但要说最近国内“AI造假”最火的事件，还得是“AI雷军”。
伴随着一张雷军的定妆照，各种视频里都传来了雷军的声音，一时间“雷军语录”火爆全网。
而且最关键的是这其中大部分的话还都不是他本人说的。
抖音平台上的“AI雷军”视频最多，国庆放假7天无论你在关注哪个娱乐领域，大概率都能听到“大家好，我是雷军”。
由于雷军的公开录像很多，这些AI合成的声音足以以假乱真，让很多人信以为真。
这里面有的是鬼畜恶搞，但也有很多作者借着雷军的声音，在视频中大骂特骂，“畜生”、“遥控小米su7撞死你”成了视频里最高频的词语。
一些视频甚至恶劣到引起了雷军粉丝的不满，他们转发给小米高管，希望小米法务部能出手制裁。
但截至目前，小米法务部和雷军本人对于这类事还没有过完整的表态。
好在，不知道是平台发力还是某种原因，最近这段时间“AI雷军”总算是消停下来了。
铁粉推荐
