东南亚国家正在采取哪些措施打击深度伪造欺诈？

Deepfakes 正在成为东南亚的一个严重威胁，对企业、政府和个人用户造成重大损害。

网络安全公司 Ensign InfoSecurity（新加坡）研究与创新主管（Ensign Labs）Tan Ah Tuan 先生表示，这项技术不仅降低了人们对组织的信任，还为身份盗窃、欺诈、敏感数据泄露创造了机会，并对声誉造成严重损害。

此外，深度伪造还造成了复杂的社会问题，模糊了现实与虚构之间的界限，使得网络空间中的信息难以区分，易于操纵。

Deepfake 是利用人工智能 (AI) 制作的合成图像或视频。据美国弗吉尼亚大学称，Deepfake 背后的工具是一种名为“深度学习”的高级机器学习 (ML)。该算法会根据程序员提供的样本学习重现内容。

Deepfake 与 Photoshop 图像或换脸技术的不同之处在于，它能够创建几乎与真实照片无法区分的复杂假图像。

全球打击跨国有组织犯罪倡议组织指出，东南亚地区高科技犯罪集团利用人工智能冒充名人，实施敲诈勒索、诈骗、传播虚假信息等行为，给民众造成严重伤害。

该组织的报告显示，2022 年至 2023 年期间，亚太地区 (APAC) 的深度伪造相关案件激增高达 1,530%。值得注意的是，菲律宾的增长率最高，达到 4,500%，而越南的深度伪造欺诈案件增长率最高，为 25.3%。

东南亚各国政府为打击深度伪造而采取的解决方案

得益于 MidJourney、OpenAI 的 ChatGPT 和 Google 的 Gemini 等大型语言模型 (LLM) 的巨大进步，从视频、图像到录音的深度伪造变得流行起来。

在2023年世界网络安全经济论坛上，46%的受访者表达了对人工智能“对抗性”潜力的担忧，包括欺诈、恶意软件开发和深度伪造等威胁。

以下是东南亚国家联盟 (ASEAN) 为保护社区免受日益严重的深度伪造诈骗问题困扰而实施的一些解决方案。

制定政策和法规

各地区政府正在积极考虑制定与个人数据保护、隐私和用户同意相关的政策法规。最大的挑战是如何在促进创新、提升企业盈利能力的同时，最大限度地减少对公众的负面影响。

例如，新加坡正在加强网络安全，打击深度伪造诈骗，以保护其民主和国家未来。在一个备受瞩目的案例中，网络犯罪分子利用前总理李显龙的形象推销虚假投资产品。

此外，微软、Meta、X（原推特）、谷歌等领先科技公司也积极参与管理，并于去年2月宣布共同承诺打击利用人工智能进行欺诈的行为。

建立执行机制

新加坡国立大学政策研究所所长、研究员卡罗尔·孙强调，科技公司需要采取多管齐下的方法来部署和执行措施，以应对滥用人工智能进行欺诈的行为。

东盟各国政府积极制定法律，打击深度伪造和其他网络威胁。例如，新加坡已通过《网络危害法案》（OCHA）和《网络安全法案》，以加强其网络防御。

与此同时，菲律宾成立了国家计算机应急响应机构来处理数字事件，而印度尼西亚则成立了国家网络安全和加密货币机构（BSSN）来应对网络相关风险。

制定解决方案创造力去战斗再次深度伪造

英国科技公司 Sumsub 的研究显示，从 2022 年到 2023 年，全球许多行业检测到的深度伪造数量增加了 10 倍。

网络媒体行业身份欺诈增幅最大。其中，加密货币行业成为主要目标，占2023年已发现案件的88%，其次是金融科技行业，占8%。

像新加坡 GROUP8 这样的网络安全公司正在提供人工智能解决方案，以检测和预防网络威胁。初创公司应该考虑开发新技术来检测和验证深度伪造，并培训法学硕士 (LLM) 在实时场景中准确识别深度伪造。

一些可能的解决方案包括使用数字水印、区块链技术和元数据来检测人工智能生成的内容。

高级技术知识培训

世界经济论坛 (WEF) 表示，提高公众对网络危险的认识将有助于公民提高警惕，学会区分真实信息和虚假内容。这也有助于防止人工智能生成的虚假信息的传播。

识别深度伪造的一些实用技巧包括：检查人物面部特征与之前图像的一致性、检查照片或视频中的细节，以及评估角色的动作是否自然或卡通化。此外，实施多因素身份验证将有助于保护个人设备免遭未经授权的访问。

前景关于打击东南亚深度伪造

随着东盟推进数字化转型目标，该地区正变得容易受到网络安全威胁。为了应对这种情况，企业需要部署一系列安全工具，包括云技术、区块链、自动化流程和其他技术解决方案，以确保数据安全。

然而，打击深度伪造仍然面临诸多重大挑战。资源有限、技术不断发展、人工智能专业知识匮乏、深度伪造日益逼真、法律法规不一致以及检测率低等问题都是重大障碍。

为了有效应对这一威胁，地区政府和利益相关者需要加强相互合作，并就其正在实施的措施寻求其他国家的意见。

此外，提供充足的资金和资源对于确保反深度伪造工作有效实施至关重要。