假如 AI 欺骗了你
文摘
科技
2024-11-09 11:55
广东
作者：Jim Clyde Monge
![]()
当我快速浏览原始帖子时，这个视频真的骗过了我。经过四年多与AI的合作，我的眼睛和大脑都训练有素，能够识别AI内容——但这个视频却悄悄地溜了过去。这证明了AI能够以多么令人信服的方式模仿现实，创造出在人类层面上产生共鸣的时刻。视频的标题是“母爱是普遍的”，它首次被发布在一个受欢迎的subreddit上，迅速走红并获得了超过12K的点赞。它的主题是母爱，触动了世界各地的人们，引发了强烈的情感和大量的讨论。![]()
该帖子现在已经在各个渠道被删除，很可能是因为担心虚假信息。![]()
AI生成视频能够引发真实的情感反应，这既令人印象深刻，也令人担忧。这些AI工具可能对讲故事和内容创作具有革命性，但它们也打开了围绕虚假信息和操纵的伦理问题之门。如何生成AI视频？
目前市面上有数百种AI视频生成器，但只有少数能够生成高度逼真的结果。最受欢迎的工具使用文本到图像再到视频的流水线、扩散模型和生成对抗网络（GANs）等技术来制作看起来和感觉都很自然的的视频。在这个案例中，尚不清楚使用了哪种工具来创建病毒式的“母爱是普遍的”视频，但市场上的一些顶级竞争者包括Runway、Kling和Pika Labs。这些平台都使用先进的机器学习算法来制作视频，这些视频常常能够欺骗不知情的观众，让他们认为是真实的录像。首先，在AI图像生成工具上生成一张图片，比如Flux Labs AI，使用这个提示：提示词：一只母鸟在大雨中保护她的五个幼崽。它们都在树顶的巢里。母鸟的翅膀合拢覆盖了所有的幼崽。![]()
一旦图片创建完成，我们可以将其上传到视频生成器如Runway。Runway允许用户将静态图片动画化，将静态帧转换成10秒的视频片段。![]()
![]()
虽然它可能看起来不如Reddit上的病毒视频那样逼真，但这是尝试AI视频的好方法。Flux Labs AI和Runway都提供免费额度，所以你不一定需要为这些服务付费。你还可以实验不同的提示和参数来提高输出的质量和逼真度。对光线、运动强度和场景转换的调整可以在实现令人信服的效果上产生很大的差异。如果你认为原始视频中的音频来自库存媒体，那你就错了。现在有AI工具可以从文本描述或视频参考中生成声音。你可以使用Eleven Lab的声音效果生成器，只需描述一个场景，就可以创建声音效果、器乐曲目等。提示词：一只母鸟在树林中保护她的幼崽免受大雨的侵袭。![]()
AI处理提示并生成几个样本音频文件。每个文件都对描述提供了独特的诠释，让你可以选择最佳匹配。结果通常令人印象深刻地逼真，捕捉到了环境声音、背景噪音和微妙的变化，为场景赋予了生命。然后，这个音频可以作为视频的一层添加，创造出同步且连贯的最终产品。另一种创建音频文件的方法是简单地上传视频，让AI分析场景并为你生成声音。谷歌的视频到音频（V2A）工具首先将视频输入编码成压缩表示。然后，扩散模型从随机噪声中迭代细化音频。这个过程由视觉输入和给定的自然语言提示指导，以生成与提示紧密对齐的同步、逼真的音频。![]()
这个工具尚未公开可用，但你可以在谷歌的博客上探索样本结果。互联网上的人很容易被愚弄，真的很令人惊讶，我们在网上被愚弄的速度有多快。据报道，到下一个十年，合成内容可能占我们在线看到的内容的90%。这为各种混乱的事情打开了大门——深度伪造、假文件、非自愿色情等。为什么这很重要？
越来越难以分辨什么是真实的，什么是不真实的，这是一个巨大的问题。看一个娱乐视频是一回事，但当你不能再信任互联网上看到的东西时，那就是另一回事了。这项技术发展得非常快，现实生活和AI生成的“现实”之间的界限几乎消失了。现在的问题是，它让互联网变得更好了吗？还是让互联网变得更糟了？最后的想法
围绕AI生成内容的辩论不会消失。如果一个视频感动了你，它是否真实或AI制造的，这重要吗？随着AI在创造感觉真实的内容方面变得越来越好，我们都必须更多地思考这个问题。视频创作即将变得更容易。很快，任何人都可以直接从手机制作高质量、独特的视频，并在短视频等平台上分享。实际上，根据欧洲执法组织Europol的报告，专家估计到2026年，高达90%的在线内容可能是合成生成的。这是否令人兴奋或不安，取决于我们每一个人——但很明显，AI正在改变我们在线体验“现实”的方式。![]()
