2024 年 Deepfake 诈骗将增多

什么是 Deepfake？

Deepfake 是由“深度学习”和“伪造”组合而成的术语，指的是一种模拟人类面部图像并制作虚假音频、图像甚至视频产品的技术。Deepfake 的创作者可以操纵媒体，将其替换为真人的外貌。

本质上，Deepfake技术建立在谷歌科技公司的开源机器学习技术平台上，Deepfake会扫描一个人的视频和肖像照片，然后利用人工智能（AI）技术将其与单独的视频合并，并用真实的面部动作和声音替换眼睛、嘴巴、鼻子等面部细节。

原始图像越多，AI 需要学习的数据就越多，从而创作出更逼真的假图像或视频。Deepfakes 可以将一个人的脸叠加到另一个人的脸上，效果令人难以置信。

2024 年选举年，Deepfakes 数量将会增加

使用深度伪造技术冒充政客的情况越来越普遍，尤其是 2024 年是历史上最大的全球选举年。

据报道，今年全球至少有60个国家、超过40亿人将投票选举其领导人和代表，这使得深度伪造问题成为一个严重问题。

根据Sumsub的报告，包括社交媒体平台和数字广告在内的在线媒体在2021年至2023年期间的身份欺诈增幅最高，达到274%。医疗保健、交通运输和游戏等行业也受到身份欺诈的影响。

此外，美国网络安全技术公司CrowdStrike在一份关于2024年全球威胁的报告中表示，由于今年有大量选举举行，可能会出现错误信息和/或虚假信息来制造不稳定。

因此，在2月14日印度尼西亚大选前，社交网络上流传了一段视频，记录了已故总统苏哈托支持其曾担任主席的政党的场景。然而，这段视频被认定为由人工智能制作的深度伪造视频，抄袭了苏哈托的整个面部和声音。这段深度伪造视频仅在社交网络平台X（原推特）上就获得了470万次观看。

这并非深度伪造首次出现。在巴基斯坦，选举期间出现了关于前总理伊姆兰·汗的深度伪造恶作剧，暗示其政党将抵制选举。与此同时，在美国，新罕布什尔州的选民突然收到一则假新闻轰炸，称总统乔·拜登要求他们不要参加初选投票。

专家表示，大多数深度伪造视频都是由一国境内的参与者制作的。新加坡政策研究所研究员兼文化与社会部门负责人卡罗尔·孙（Carol Soon）表示，国内参与者可能包括政治对手和反对派，或极右翼和极左翼参与者。

与此同时，新加坡国家人工智能计划人工智能项目管理高级总监西蒙·切斯特曼表示，亚洲在法律、技术和教育三个方面尚未准备好解决选举中的深度伪造问题。

深度伪造有何危害？

在评论深度伪造带来的危害时，卡罗尔·松表示，深度伪造至少会污染信息生态系统，使人们难以找到准确的信息并对某个政党或候选人形成明智的看法。

西蒙·切斯特曼表示，如果选民看到有关某个丑闻事件的内容在社交媒体上迅速传播，而该内容尚未被辟谣，他们也可能会放弃支持某位候选人。虽然一些政府拥有打击网络虚假信息的工具，但令人担忧的是，真相在得到纠正之前就可能被扭曲。

“我们已经看到，X（以前的 Twitter）被涉及泰勒·斯威夫特的深度伪造色情内容占领的速度有多快。这些东西传播速度惊人，”切斯特曼说，并补充说，这些措施往往不足，而且极难执行。“通常为时已晚。”

网络安全技术公司 CrowdStrike 的亚当·迈耶斯 (Adam Meyers) 表示，深度伪造还会引发确认偏差，这是人们信息处理过程中的一种效应。“即使人们内心深处知道这不是真的，但如果这是他们想要的信息，是他们想要相信的，他们仍然会接受它，”他解释道。

切斯特曼先生表示，更令人担忧的是，记录选票作弊等选举不当行为的虚假视频可能会导致选民对选举的有效性失去信心。

据 Soon 女士称，候选人可以否认有关自己的真实情况，声称有关他们的负面信息都是假的。

顶级科技公司承诺打击深度伪造

今年 2 月，微软、Meta、谷歌、亚马逊、IBM 等 20 家领先科技公司以及人工智能公司 OpenAI 和 Snap、TikTok 和 X 等社交媒体公司同意共同承诺打击在今年选举中使用人工智能进行作弊的行为。

这项联合承诺是重要的第一步，但其有效性取决于实施和执行。Soon 表示，这需要科技公司采取多管齐下的方法，在其平台上实施不同的措施。科技公司还需要确保其决策（例如所遵循的流程）的透明度。

但西蒙·切斯特曼表示，期望私营公司履行基本的公共职能并不过分。决定社交媒体上允许发布哪些内容是一个艰难的决定，有些公司可能需要数月时间才能做出决定。

为了实现这一目标，内容认证与认证联盟（C2PA）推出了一个专门用于验证数字内容的平台。该平台允许观看者接收经过验证的信息，例如有关创作者的信息、创作来源和时间，以及信息的通用性或信息是否由人工智能生成。

C2PA 的成员公司包括 Adob​​e、微软、谷歌和英特尔。OpenAI 于今年初宣布，将为其 DALL·E 3 图像生成语言模型生成的图像部署 C2PA 身份验证技术。

OpenAI 创始人兼首席执行官 Sam Altman 在 1 月份世界经济论坛接受彭博社采访时表示，公司致力于确保其技术不被用于操纵选举。

网络安全公司 CrowdStrike 的亚当·迈耶斯 (Adam Meyers) 提议创建一个无党派、非营利的工程组织，用于分析和识别深度伪造内容。迈耶斯说：“公众可以向他们发送他们怀疑被篡改的内容。沟通起来并不容易，但至少有一些人们可以信任的机制。”

但最终，虽然技术是解决方案的一部分，但很大程度上取决于用户。公众需要更加警惕，除了在事情看起来非常可疑时进行事实核查之外，用户也需要对重要信息进行事实核查，尤其是在与他人分享之前。