近年来，人工智能（AI）技术飞速发展，从 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL·E，Sora，谷歌的 Gemini，AI 已经在写文章、画画、制作图片、视频等领域展现出了自己无与伦比的能力。尤其是 AI 生成的图片和视频，开始频繁出现在我们的视野中。在 AI 绘图作品刚开始大量涌现时，虽然模型精致，但还是充满了同质化和瑕疵的，很容易做到“一眼假”。![]()
早期 AI 绘图作品，来源：网络
比如上面的两幅图片很容易就能看出是 AI 绘图的作品，虽然整体很精致，但细看就会发现图片渲染过度光滑、质感存在失真。同样在细节上也存在很多不合理的地方，如左图远景过于清晰、雪地配衬衫违背常识等，右图中人物眼神呆滞、手部细节奇怪、猫咪比例过大等。面对这些 AI 图片时，我们常常带着一丝戏谑的态度。那些看上去歪歪扭扭的画作，似乎在向我们证明：机器再聪明，也无法真正理解艺术。但是，如今的 AI 技术发展迭代进步太快了，生成的图像和视频已经完全可以假乱真。比如你能在下面这四张照片中找到唯一一张真人照片吗？![]()
来源：thispersondoesnotexist.com
再比如下面这张图片，对于非专业人士来说，已经很难仅通过肉眼鉴别出它也是 AI 绘图的作品了。![]()
然而，随着 AI 生成技术的不断提升，其带来的问题也越来越复杂。比如前段时间引发巨大社会轰动的 N 号房“2.0”事件。![]()
不法分子利用深度伪造技术（Deepfake），将一张再平常不过的生活照变成换脸之后的淫秽视频。更可怕的是，这其中绝大部分犯罪嫌疑人都是未成年人。AI 技术上手门槛的大大降低，以至于心智不成熟的未成年人以此为乐，丝毫没有注意到因此带来的危害。同样还有利用 AI 技术生成虚假信息，引发的大量舆论事件，比如“特朗普被捕”系列图片：![]()
特朗普团队本身也频繁使用 AI 深度伪造的内容来为自己造势。如利用 AI 生成的一系列泰勒·斯威夫特及其粉丝支持川普的图片，而川普本人也转发了这些虚假图片。![]()
深度伪造（Deepfake）技术的出现，让我们不得不面对一个棘手的问题：我们还能信任什么？在这个信息泛滥的时代，假新闻和虚假内容不仅可以误导公众舆论，甚至可以影响选举和社会稳定。创作者与受众之间的信任关系正在受到挑战，如何在这片“虚假”的海洋中寻找到真实，成了每个人都需要面对的难题。其实，还是有一些简单的方法可以帮助我们进行判断的。#方法一：观察细节，寻找不合理
许多 AI 生成的作品在某些细节上可能存在不自然以及违反常识之处，包括：手指数量错误、不对称的眼睛、不自然的表情/视线，不合常理的错误等。![]()
比如前文“特朗普被捕”这张图片，细看的话就会发现很多不自然的细节：特朗普的左臂变得扭曲、特朗普的身后出现了一个朝向奇怪且不属于任何人的脚、路人对此追捕情境漠不关心以及追捕者的视线并没有在特朗普身上等等。
#方法二：使用AI检测工具
随着技术的发展，越来越多的 AI 检测工具被开发出来，可以在一定程度上帮助用户识别 AI 生成的内容。比较知名的工具比如 AI or NOT，可以简单的通过在网页上传图片进行检测，速度和正确率都还可以。
附地址：https://www.aiornot.com/dashboard/home![]()
#方法三：多看AI作品
当你看的 AI 作品多了，就会发现有些图片虽然说不出来哪里不对，但就是感觉有点奇怪，或者发现好多作品都是似曾相识的样子~![]()
随着 AI 绘图和 Deepfake 技术的发展，社会面临着一系列严峻问题。Deepfake 技术对个人隐私和名誉的侵犯；
虚假图像的传播对舆论与社会认知造成的不良影响以及信任危机；
由于 AI 生成作品的版权归属尚无明确法律规定，从而引发的法律纠纷；
更糟的是，这些技术也可能被不法分子利用进行操控和诈骗，给社会带来潜在风险。整体而言，这些问题不仅挑战了我们的信息判断能力，也重塑了我们对艺术和创作的理解。因此，我们必须保持警惕，既要欣赏其带来的创作自由，又要意识到潜在的风险。在这个真假难辨的时代，培养自己的鉴别能力或许是我们应对未来的最佳武器。
结合大模型通用知识及在交通、社会治理、安全生产、自然资源等行业领域的知识，深入业务场景，精确捕获用户意图，为用户提供智能问答、数据分析、报表生成、工作任务理解与执行等一系列服务
📞若您有相关需求，欢迎点击下方链接与我们沟通洽谈
🗨️也可以在公众号后台给我们留言
![]()
1.https://mp.weixin.qq.com/s/Ie3wwCy8HzX47l6bgc2wMQ2.https://mp.weixin.qq.com/s/RyEqTCTyurQVyfT3EzhtnQ3.https://mp.weixin.qq.com/s/efnUGFHSDAgQCfbdI-BDJQ
4.https://www.zhihu.com/question/597129798/answer/3037987202![]()
