如何检测人工智能制作的深度伪造图像

Deepfakes 是指利用人工智能技术编辑的图像或视频，旨在使观看者相信某些不真实的东西。Deepfakes 可用于多种用途，包括娱乐、欺诈和宣传。

利用人工智能技术制作虚假图片或视频正迅速成为我们面临的最大网络问题之一。由于生成式人工智能工具的泛滥和滥用，欺诈性图片、视频和音频数量正在上升。

随着几乎每天都会出现由人工智能制作的深度伪造视频，从歌手泰勒·斯威夫特、美国前总统唐纳德·特朗普等世界著名人物的图像……区分真假变得越来越困难。

如今，DALL-E、Midjourney 和 Sora 等使用人工智能从文本生成视频和图像的创新工具使创建深度伪造比以往任何时候都更加容易，用户只需输入请求，系统就会自动生成它们。

这些虚假图像看似无害，但它们可能被用来进行欺诈、窃取身份、传播宣传和操纵选举。

在深度伪造技术的早期，它受到限制，并且经常留下明显的篡改痕迹。事实核查人员指出了存在明显缺陷的图像，例如一只只有六根手指的手，或者两副镜片形状不同的眼镜。

但随着人工智能的进步，检测变得越来越困难。咨询公司 Latent Space Advisory 的创始人、生成人工智能领域的顶尖专家亨利·阿杰德 (Henry Ajder) 表示，一些广为流传的建议，例如在深度伪造视频中寻找不自然的眨眼模式，已经不再有效。

不过，亨利·阿杰德表示，仍然有一些迹象可以识别深度伪造图像，例如带有电子光泽的人物肖像，“一种美学平滑效果”，使皮肤“看起来出奇地有光泽”。

另外，还要检查阴影和光线的一致性。通常情况下，照片的主体清晰对焦，看起来逼真，但背景中的元素可能不够逼真或不够亮眼。

看看脸

换脸是最流行的深度伪造方法之一。专家建议仔细观​​察面部边缘。肤色是否与头部或身体的其他部分匹配？面部边缘清晰还是模糊？

如果你怀疑某人说话的视频被剪辑过，那就看看他们的嘴型。他们的唇部动作和音频完全匹配吗？

Ajder 建议检查一下他们的牙齿。他们的牙齿清晰吗？还是模糊不清，与实际外观不符？

美国网络安全公司诺顿表示，该算法可能不够复杂，无法创建单个牙齿，因此每颗牙齿缺乏轮廓可能是识别深度伪造图像的标志。

从更广泛的角度考虑这个问题

有时背景很重要。花点时间想想你所看到的内容是否合理。

美国新闻和媒体教育非营利组织 Poynter 建议，如果你看到某个公众人物做一些看起来“炫耀、不切实际或不符合性格”的事情，那么这可能是深度伪造的图像。

比如，教皇真的像那张著名的假照片那样穿着一件花哨的羽绒服吗？如果是的话，主流媒体会发布更多这方面的照片或视频吗？

使用人工智能检测深度伪造

另一种方法是利用人工智能对抗自身。微软开发了一款身份验证工具，可以分析照片或视频，并给出其是否被篡改的置信度评级。而半导体制造商英特尔的FakeCatcher则使用算法分析图像的像素，以确定其真伪。

还有一些在线工具承诺，当你上传文件或粘贴可疑文档的链接时，它们会嗅探出虚假内容。但有些工具，例如微软的身份验证器，只对特定合作伙伴开放，不向公众开放。这是因为研究人员不想将信息泄露给不法分子，让他们在深度伪造的“军备竞赛”中获得更大的优势。

阿杰德说，公众使用检测工具也会给人们留下这样的印象：它们是“神一般的技术”，可以取代我们的批判性思维，而实际上我们需要意识到它们的局限性。

专家表示，让普通用户承担成为数字侦探的负担甚至可能是危险的，因为这可能会导致盲目信任，因为即使是专家也发现检测深度伪造越来越困难。

检测深度伪造视频是一项日益严峻的挑战，没有任何方法能够 100% 有效。然而，通过采取预防措施并提高认知，我们可以降低被深度伪造视频欺骗的风险。