作者：DAVID SALAZAR

责编：方阿美 刘祥辉

一项新的研究发现，人类不再能够区分真假面孔。

您可能对自己从使用人工智能创建的面孔中分辨出真实面孔的能力充满信心。但是一项新的研究发现，如果你只是掷硬币，你准确选择的机会会稍微好一点——而且你更有可能相信假脸而不是真脸。

该研究发表在《美国国家科学院院刊》上，由加州大学伯克利分校教授 Hany Farid 和英国兰开斯特大学讲师 Sophie J. Nightingale 进行。

Farid 多年来一直在探索合成图像——以及人们如何分辨它们与真实图像的区别。他最初专注于计算机生成图像的兴起。但近年来，随着被称为 GAN（生成对抗网络）的基于深度学习的神经网络在生成真正逼真的合成图像方面变得更加复杂，媒体的发展道路已经加快。“如果你看一下深度伪造和 [GANs] 的改进速度，它比 CGI 快一个数量级，”他说。“我们会争辩说，我们已经通过了静止面孔的恐怖谷。”

这种逼真的假货的问题是多方面的。“欺诈性的在线个人资料就是一个很好的例子。伪造的护照照片。静态照片有一些邪恶的用途，”法里德说。“但事情会变得非常棘手的是视频和音频。”

1.这张脸是真人的还是人工合成的？（请参阅下面的答案。）

鉴于这些改进的速度，法里德和南丁格尔想要探索通过人工智能创建的面孔是否能够让观众相信他们的真实性。他们的研究包括三个实验，旨在了解人们是否可以从 Nvidia 的 StyleGAN2 创建的合成人脸中辨别出真人脸。在识别出 800 张真假面孔的图像后，法里德和南丁格尔要求参与者查看其中的一部分并将它们分类为真假。参与者的正确率不到一半，平均准确率为 48.2%。

第二个实验表明，即使向参与者提供一些关于识别 AI 生成的面孔并在他们做出决定时提供反馈的提示，也并没有显着提高他们的破译能力。参与者以 59% 的准确率识别出哪张脸是真实的，哪张是假的，但随着时间的推移没有任何改善。“即使有反馈，即使有培训试图让他们变得更好，他们的表现也比偶然的好，但他们仍在苦苦挣扎，”法里德说。“这并不是说他们变得越来越好——基本上它会有所帮助，然后就会停滞不前。”

人们难以识别人工智能创造的面孔并没有让法里德和南丁格尔感到特别惊讶。然而，他们没有预料到，当参与者被要求根据他们感知的可信度对一组真假面孔进行评分时，人们会发现合成生成的面孔比真实面孔可信度高 7.7%——这是一个很小但具有统计学意义的差异。

2、这张脸是真人的还是人工合成的？（请参阅下面的答案。）

“我们对这一结果感到非常惊讶，因为我们的动机是寻找一种间接途径来提高绩效，我们认为信任就是这样——真实的面孔会引发更值得信赖的感觉，”南丁格尔说。

Farid 指出，为了进行更多受控实验，他和南丁格尔一直致力于让出处成为真脸和假脸之间唯一的实质性区别。对于每一张合成图像，他们使用数学模型从真实面孔的数据库中找到一个在表情和种族方面相似的图像。例如，对于一位年轻黑人女性的每一张合成照片，都有一个真实的对应物。

尽管 GAN 目前可以令人信服地创建的图像类型仍仅限于护照式照片，但南丁格尔表示，这些欺骗行为对从约会诈骗到社交媒体的一切构成威胁。

3、这张脸是真人的还是人工合成的？（请参阅下面的答案。）

“就在线浪漫诈骗而言，这些图像将是完美的，”她说。“[对于] 诸如 Twitter 虚假信息攻击之类的事情，而不是使用默认的鸡蛋图像，您只需获取其中一张图像。人们信任它，如果你信任某些东西，你可能更有可能分享它。因此，您会看到这些类型的图像如何已经造成混乱。”

那么，我们如何防止人们使用合成图像进行不法手段呢？Farid 是“受控捕获”方法的拥护者，该方法由TruePic和内容来源和身份验证联盟等公司开发。该技术为在具有内置相机功能的应用程序中拍摄的任何照片捕获与时间和位置相关的元数据。

“我认为唯一的解决方案是在录制时进行身份验证，使用受控的捕获类型的技术，”他说。“然后，任何有它的东西，都很好；任何没有的东西，买家要小心。我认为这个 [解决方案] 真的会开始受到关注，我希望在未来几年，我们开始更加重视在线信任和安全。”

4.这张脸是真人的还是人工合成的？（请参阅下面的答案。）

除了合成静止图像之外，这项研究是随着合成媒体世界的发展而进行的。澳大利亚公司 Synthesia在 12 月完成了 5000 万美元的 B 轮融资，用于企业通信中使用的 AI 头像；总部位于伦敦的 Metaphysic是汤姆克鲁斯病毒式深度假冒背后的公司，今年早些时候筹集了 750 万美元。随着这些技术不断改进和改变人工 智能的可能性，南丁格尔说，研究人员和公司将不得不认真考虑所涉及的伦理问题。

“如果某些新技术的风险大于收益，我们真的应该这样做吗？” 她问。“首先，我们应该开发它吗？其次，我们是否应该将其上传到 Github 之类的平台上，任何人都可以在其中得到它？. . . 正如我们所看到的，一旦它出现，我们就不能再把它收回，因为人们已经下载了它，而且为时已晚。”

答案：1. 假；2. 真；3. 真；4. 假

（来源：https://www.fastcompany.com/90723105/ai-generated-faces-have-crossed-the-uncanny-valley-and-are-now-more-trustworthy-than-real-ones）

END

关键词： 生成面孔已跨越恐怖谷 比真实面孔更真 南丁格尔