不要相信你的眼睛和耳朵
文摘
2024-08-18 22:22
北京
哎哟喂，各位摄影家们，实时换脸术来了，只需要一张大头照，就让视频直播时化身为他/她，关键这神奇的变身术还免费。这款神器名为“深度直播摄像”（Deep-Live-Cam），是个开源软件，一发布就震惊四座，正在网上疯传，直接冲上GitHub热门榜首。![]()
网友马修·伯曼发了一个官方演示，用的是马斯克的图片。他写道：目前在GitHub上排名第一的太疯狂了。单张图片生成实时深度伪造视频工具。看看那个质量！它叫做Deep-Live-Cam（回复中的链接）。这个帖子已经在95万人浏览过。![]()
网友Joao马上下载验证，然后他上传了一段视频，展示自己如何变成了演员乔治·克鲁尼(George Clooney)、共和党副总统候选人杰德·万斯(JD Vance)、演员休·格兰特(Hugh Grant)和Meta总经理马克·扎克伯格(Mark Zuckerberg)样子。![]()
他说：“有些实验效果几乎完美，而且是实时的。我花了5分钟就安装好了。我们知道有人会用这种技术干坏事儿……不要相信你的眼睛，也不要相信你的耳朵。”Joao说：“我们有相似的特征，比如深色胡须浅色眼睛，虽然脸形不像，但算法处理得很好。”![]()
“深度直播摄像”软件，就像一位神奇的魔法师，他们声明这是让艺术家们轻松搞定自定义角色、服装模特等任务。开发软件的家伙们也很清楚，这东西可能会被滥用，所以他们在软件里装了个“道德小卫士”，确保软件不会在那些让人脸红心跳的内容上运行，比如说裸体画面、暴力血腥等内容。
![]()
他们声称要沿着阳光大道继续前进，同时得遵守法律和道德底线。万一哪天法律找上门来，他们要能会关闭项目，或者在输出加上水印。
用户得守规矩，用软件时不能违法，要是用到真人脸，得先拿到人家的同意，发布的时候还得明确标注清这是深度伪造的。至于用户怎么用，开发者可是一概不负责。据报道，“深度直播摄像”的工作原理，是在源图像和目标图像中检测出人脸，然后使用“inswapper”的AI模型来换脸，为了提升影像品质，还要用了“GFPGAN”的模型来打磨细节、纠正瑕疵。这个换脸模型是基于数百万张包含数千人的各种表情、各种光线下的面部图像的大型数据集训练而成的，可以比较完美地预测他的样子。所以下次当你看到心仪的偶像在直播时，万千小心，那那可能就是深度直播摄像的小把戏。深度伪造技术由来已久，2017年就有人开始搞。不过技术门槛高，质量也不行。随着AI的飞速发展，这东西逐步成熟起来。AI一路走来，真是让人又爱又恨，负面新闻满天飞。先是摄影师、艺术家和图片库状告AI公司，盗用他们有版权的图片视频训练AI大模型，再就是明星、政客不段被制造各种绯闻、丑闻等。最《倒霉的是霉霉》——泰勒·斯威夫特(Taylor Swift)，国际巨星在橄榄球比赛中的色情暴力的AI假照片充斥全网，让粉丝火冒三丈，更是直接惊动了白宫。![]()
以下本号这3年来关于AI成图、音频、视频方面的50篇文章，在这里汇总一下，方便查找。
