真人的脸 VS 人工智能合成的脸，你能区分吗？_

大家应该都听过一句话叫“耳听为虚，眼见为实”，但是眼见就一定为实吗？如果说人工智能已经能做到让你相信“假即是真”，你会不会觉得难以置信？

2018 年，英伟达推出了一种人工智能，它可以为不存在的人制作超逼真的照片，让全世界惊叹不已。它的研究人员依赖于一种称为生成对抗网络 (GAN) 的算法，该算法使两个神经网络相互对抗，一个试图发现假货，另一个试图生成更有说服力的网络。如果有足够的时间，GANS 可以生成非常好的伪造品。

从那以后，人工智能生成人体图像的能力有了很大的提高，但也带来了一些令人担忧的影响：使诈骗者能够欺骗人们，使得在未经他们同意的情况下将人们拼接成色情电影成为可能，以及破坏对在线媒体的信任。虽然可以使用人工智能本身来发现深度伪造，但科技公司没能有效的调节那些复杂的材料，也就说明这条路走不通。

这意味着更重要的问题是人类是否可以发现差异，以及它们与深度伪造有何关系。PNAS的一项新研究的结果并不乐观——研究人员发现人们检测假货的能力并不比随机猜测好，而且实际上他们认为假脸比真人更逼真。

“我们对人工智能合成的面孔的逼真度的评估表明，合成引擎已经达到了堪称不可思议的地步，能够创造出无法区分的面孔，而且比真实面孔更值得信任。”作者写道。

为了测试对假脸的反应，研究人员使用 nvidia 的 GAN 的更新版本生成了 400张脸，性别平等，各 100 张脸来自四个种族：黑人、高加索人、东亚人和南亚人。他们将这些中的每一个与从最初用于训练 GAN 的数据库中提取的真实面孔进行匹配，该数据库已被不同的神经网络判断为相似。

然后，他们从 amazon Mechanical Turk 众包平台招募了 315 名参与者。每个人都被要求从组合数据集中判断 128 张面孔，并判断它们是否是假的。他们的准确率只有 48%，实际上比你应该从随机猜测中得到的 50% 还要差。

深度伪造出来的假照通常具有特征性的缺陷和故障，可以帮助人们将其识别出来。因此，研究人员对另外 219 名参与者进行了第二次实验，在让他们判断相同数量的面孔之前，他们对他们进行了一些基本培训，了解要注意什么。他们的表现仅略有改善，达到 59%。

在最后的实验中，该团队决定看看对面部更直接的直觉反应是否可以为人们提供更好的线索。他们决定看看可信度。人们通常在一瞬间会根据自己的第一直觉来确定难以判断的东西。而对于人脸，可信度无疑是人们判断一个人的第一反应。但是，当他们让另外 223 名参与者对 128 张面孔的可信度进行评分时，他们发现人们实际上认为假面孔的可信度高出 8%，这是一个很小但具有统计学意义的差异。

鉴于可以将深度伪造用于邪恶用途，这是一个令人担忧的发现。研究人员认为，假面孔评价更高的部分原因是因为它们看起来更像普通面孔，而之前的研究发现人们更倾向于信任这些面孔。这是通过观察最不值得信任的四张面孔而得出的，这些面孔都是真实的，而最值得信赖的三张面孔都是假的。

研究人员表示，他们的研究结果表明，那些开发 deepfakes 背后的底层技术的人需要认真思考他们在做什么。第一步是问自己这项技术的好处是否超过其风险。其次该行业还应该考虑建立保障措施，其中包括让 deepfake 生成器在其输出中添加水印。

“因为对这种强大技术的访问民主化构成了最重大的威胁，我们还鼓励重新考虑对公众放任自流的方法，以及不受限制地发布代码以供任何人纳入应用程序。”作者写道。

不幸的是，这可能为时已晚。公开可用的模型已经能够生产出令人信服的深度伪造品了，想把模型收回已经不太可能了。