千万人围观「烧焦婴儿」图片！伯克利教授辟谣：AI图片检测器无用

文章来源：新智元

AI无法打败AI，不是没有道理。近来，上千万人围观的婴儿死亡照片，AI检测工具竟无法给出一致答案。

AI图片检测器又被冲了！

最近，外网爆出大量中东地区冲突的照片，向世人展示了生命在这种极端条件下是何等的脆弱和无助。

其中，一张「烧焦婴儿」的照片，由于太过于残忍，让人难以置信。

于是，有人把照片放到了AI图片检测器中，来检测这些照片是否为AI生成。

果然，这张照片被AI检测器——Optic，认定为「AI生成」。

而在4chan上，甚至还出现了「原图」，原本尸体的位置其实是一只狗狗。

于是网友愤怒地去发布者推文下方留言，攻击他利用AI生成的照片来散播虚假的末日恐慌。

这条认为照片是由AI生成的推文，2天不到的时间已经有2100万的阅读。

但是很快网友们发现，他们把照片放到了同样的AI检测器上，检测结果几乎是随机的，既有AI，也有人类。

有人发现，只要把同一张图片裁剪一下，或者背景色变成黑白，这个检测器就会认为图片是由人类拍摄的。

甚至有时候检测器「抛硬币」的时候，硬币还会立起来...

那到底这张图是不是由AI生成的呢？

最后，AI检测器官方也针对这个事件发推，认为他们的没有办法确定图片是否由AI生成，希望大家理性讨论。

AI图片检测器，到底有多不靠谱？

UC Berkeley教授、世界顶尖的数字图像处理专家之一Hany Farid表示，这张图像没有任何迹象表明它是由AI生成的。

「AI图像生成器最大的问题之一是高度结构化的形状和直线，」Farid说。「如果你看到桌腿和螺丝，一切看起来都很完美，那么图片就几乎不可能是由AI生成的。」

比如这张著名的「海绵宝宝制造了9/1」的图片，窗外的双子塔线条都不直，飞机上的仪表盘都相互扭曲到一起了，这看起来就是「A里A气的」。

「我们在那张照片中能够看到物体的结构很准确、阴影也很准确、没有伪影——这让我相信这张照片应该完全是真实的」法里德说。

Farid还通过他自己的其他AI图像检测器识别了这幅图，另外四种AI图像检测工具也都认为图像不是AI生成的。

Farid说，「AI检测器是一个工具，但它只是工具包的一部分。用户需要对整个图像进行进行一系列的测试，不可能只按一个按钮就得到答案。」

而AI检测工具Optic确实也没有给出自己的检测技术的具体细节。

Optic网站也声明，「AI检测器可能会产生不准确的结果」。

AI图像检测技术

Farid教授在去年曾经撰写过一篇论文，介绍了如何判断AI生图工具图像的一致性。

通过判断图像上的一致性，可以帮助判断出图像是否由AI生成。

论文链接：https://arxiv.org/abs/2206.14617?ref=404media.co

教授首先概述三种相关的基于物理的分析方式，每种分析都利用了图像形成过程固有的相同的基础透视几何原理。

消失点

1. 平行后退线汇聚于一个消失点。
   

瓷砖之间的线图1(a)是平行的。成像时，这些线全部汇聚在一个消失点。如果场景中的平行线在深度上远离镜头，那么就会存在消失点，尽管它可能落在图像之外。

如果场景中的平行线在深度上不后退，也就是说，如果它们完全平行于镜头传感器（在任何距离），则平行线将被成像为平行线，出于实际目的，可以考虑消失点处于无穷远。这种几何学源于透视投影的基础知识。

在透视投影下，场景中的点 (X, Y, Z) 被成像到点 (f X/Z, f Y /Z)，其中f是镜头焦距。

由于图像中点的位置与距离Z成反比，因此投影点会作为距离的函数进行压缩，从而导致图像中的线会聚；

2. 平行平面上的平行线会聚到同一个消失点