在社交媒体时代,信息传播速度之快、范围之广令人震惊。
而 AI 技术的崛起,不仅带来了令人惊叹的创新,也为虚假信息、特别是“深度伪造” (Deepfakes) 提供了前所未有的助力。
最近,加州通过了一项严厉的新法——AB 2839,专门针对那些发布、转发选举相关 AI 深度伪造内容的社交媒体用户。
加州州长加文·纽森(Gavin Newsom)毫不含糊地表示,这项法律生效后,即便是像埃隆·马斯克(Elon Musk)这样的名人也不例外,或将面临法律责任。
深度伪造技术是一种通过 AI 和机器学习,将人脸、声音等元素深度合成的技术,使得伪造的视频和音频极具“真实感”。本质上,它可以让一个人“说出”从未说过的话,或做出未曾做过的事。
让这项法律引起广泛关注的原因之一,就是它与科技大亨马斯克的联系。今年早些时候,马斯克在他的社交媒体平台 X(前 Twitter)上转发了一段伪造的视频,这段视频让美国副总统卡玛拉·哈里斯(Kamala Harris)看似自称为“无能候选人”和“多样性象征”。然而,哈里斯从未发表过这样的言论。
纽森在一条推文中直指马斯克,指出这种行为在加州现已违法。他表示:“你不能再明知故犯地散布含有虚假内容的选举宣传材料,特别是 AI 深度伪造内容。”
马斯克作为公众人物,拥有庞大的影响力,他的一条推文可能会影响数百万人,甚至可能改变选举的舆论走向。
但在新法的框架下,即便是像马斯克这样的亿万富翁,也不能轻易逃脱法律的制裁。纽森甚至暗示,马斯克可能因此面临法律诉讼。
这项法律的独特之处在于,它并不直接针对深度伪造内容的创作者,而是那些恶意传播这些内容的人。这意味着,即便你没有制造虚假视频,但只要你在明知其虚假的情况下转发、传播,都有可能承担法律责任。
同时,任何人如果在社交媒体上看到 AI 深度伪造内容,并认为其具有误导性,可以向法院申请禁止令,要求发布者删除内容,甚至可能索赔。
虽然很多法律专家认为,这项法律的真正目标是“防患于未然”——通过法律威慑力减少虚假内容的传播,但马斯克的行为似乎是对新法的直接挑战。他似乎在测试加州是否有意愿真正落实这项法律。
随着科技的快速进步,法律体系不得不迅速调整,以应对新兴的挑战。AI 深度伪造是一个典型的例子,它既展现了技术的惊人潜力,也暴露了其潜在的风险。
在这场科技与法律的博弈中,AB 2839 或许只是一个开端。未来,我们将看到更多类似的法律出台,以保护选举和公众免受虚假信息的侵害。
马斯克的恶搞能否在法律面前全身而退?
我们拭目以待。
对于普通社交媒体用户来说,新法则敲响了警钟:发布或转发虚假信息,后果可能比你想象的严重得多。