数字化转型

FBI警告称,网络犯罪分子已将人工智能用于大多数类型的欺诈

潘文和 December 9, 2024 15:09

美国联邦调查局(FBI)警告称,网络犯罪分子越来越多地使用人工智能(AI)来创建虚假文本、图像、音频和视频,从而增加了其诈骗的规模和复杂程度。

诈骗分子正利用人工智能的进步,制造大量极具说服力的虚假内容,并自动化诈骗活动,以扩大其规模。联邦调查局 (FBI) 已概述了数十种网络犯罪分子滥用人工智能来进一步实施诈骗的方式。

联邦调查局在一份公告中指出:“生成式人工智能尤其能减少犯罪分子实施诈骗所需的时间和精力。这些工具不仅有助于创建内容,还能纠正人为错误,而这些错误可能是欺诈活动的危险信号。”

Ảnh minh họa
插图照片。

使用人工智能生成的内容并非总是违法的。然而,当它被用于欺诈、勒索或其他犯罪等恶意目的时,识别其来源并检测其是否由人工智能生成就会变得极其困难。

FBI 认为,提供人工智能如何被用于网络犯罪的具体例子将有助于揭露骗局并提高公众对威胁的认识。

网络犯罪分子利用人工智能生成的文本欺骗读者

人工智能生成的文本通常极具说服力,很容易欺骗读者,并被犯罪分子利用来实施各种诈骗,例如社交工程攻击、电子邮件诈骗、爱情诈骗、投资诈骗以及许多其他欺诈手段。这些内容可能在以下情况下被滥用:

- 在社交媒体平台上创建多个虚假个人资料,使用虚假信息、图像和身份来赢得受害者的信任。

- 使用快速反应策略有助于诈骗者优化其在线接触和吸引广泛目标受众的能力。

- 诈骗网站往往设计有吸引力、专业的内容,以吸引用户参与不透明的投资活动。

- 在诈骗网站上,人工智能聊天机器人被编程为以自然和令人信服的方式与受害者互动。

网络犯罪分子利用人工智能生成的虚假图像进行欺诈

网络犯罪分子正在迅速利用人工智能制作可信的虚假图像,用于制作个人资料照片、身份证和伪造文件。联邦调查局警告称,这些图像正被用于各种欺诈目的,包括:

- 虚假社交媒体资料是社会工程攻击的工具,用于进行电子邮件诈骗、爱情诈骗、信任诈骗,并引诱受害者进行虚假投资。

- 伪造文件,例如驾驶执照或身份证,是对官方文件的复杂模仿,使犯罪分子能够冒充和窃取身份以实施复杂的诈骗。

Ảnh minh họa1
网络犯罪分子利用人工智能生成的虚假图像实施诈骗。图片:互联网

- 在私人聊天中使用经过精心编辑的图像来说服受害者相信虚假身份,从而建立信任。

- 利用名人或有影响力人士的形象推销假冒产品或欺诈计划,利用公众人物的声誉来增加说服力并吸引受害者。

- 利用自然灾害和悲惨事故的图像来引起同情,呼吁向虚假慈善机构捐款,并诱骗受害者转账。

- 制作受害者的敏感图像以勒索、威胁其名誉并迫使其支付金钱或满足其他要求。

网络犯罪分子利用人工智能克隆声音来欺骗受害者

网络犯罪分子会冒充名人、公众人物,甚至是受害者的私人关系人来骗取钱财。联邦调查局记录了多起利用人工智能生成的音频作为复杂工具的案例,包括:

- 使用人工智能创建亲人的虚假声音,模拟紧急情况以利用同情心并诱骗受害者汇款或支付赎金。

- 利用人工智能声音生成技术绕过语音认证,获取银行账户访问权限并进行未经授权的交易,给受害者造成严重损害。

网络犯罪分子在诈骗视频通话中使用人工智能生成的视频

美国联邦调查局警告称,网络犯罪分子越来越多地利用人工智能技术制作看起来真实可信的虚假视频,包括以下内容:

- 利用人工智能生成的虚假视频进行实时视频聊天,冒充公司领导、执法人员或其他授权个人进行诈骗,获取受害者的信任。

Ảnh minh họa2
网络犯罪分子利用人工智能生成的视频进行欺诈性视频通话。图片:互联网

- 使用虚假视频进行私人对话,以“证明”在线联系人是“真实”且值得信赖的人,从而更有效地操纵受害者。

- 使用虚假视频推广欺诈性投资项目,这些视频通常包含虚假或虚构的内容,以吸引和欺骗投资者。这些视频旨在营造一种专业性和信任感,从而诱使受害者投资于不存在的项目。

以及 FBI 关于如何保护自己免受网络犯罪侵害的建议

识别人工智能生成的诈骗正变得越来越复杂,因为它们的设计初衷就是为了欺骗经验丰富的人类。鉴于此,FBI 提供了一些实用技巧,帮助你保护自己免受潜在威胁。

- 在您的家庭内部建立一个秘密单词或短语,用作紧急情况下的身份验证方法。

- 人工智能生成的图像或视频通常存在一些缺陷,容易暴露其为假货。这些缺陷包括:手脚变形、牙齿或眼睛异常、脸部不对称或不清晰,以及眼镜或珠宝等配饰看起来不逼真。

Ảnh minh họa3
人工智能生成的图像或视频中出现的异常迹象。图片来源:互联网

此外,还可能出现其他异常,例如阴影不准确、水印不自然、实时延迟增加、画外音不同步以及动作缺乏流畅度或保真度。

- 密切注意语气和措辞,因为这些是区分亲人真实来电和人工智能生成的虚假声音的重要线索。

- 谨慎处理包含您的图像和声音的在线内容。将您的社交媒体帐户设置为私密,并将关注者列表限制为您真正认识的人。这些措施可以降低您的个人信息被用于欺诈的风险。

- 切勿与仅在网上或电话中认识的人分享敏感信息。此外,切勿向不熟悉或仅在网上或电话中认识的人转账、礼品卡、加密货币或任何资产。

一条重要的规则是,不要相信任何给你打电话的人。相反,你应该主动从可靠的渠道查找相关银行或机构的官方联系信息,并直接拨打官方网站上提供的电话号码。

据 Cyber​​news 报道
复制链接

特色义安报纸

最新的

x
FBI警告称,网络犯罪分子已将人工智能用于大多数类型的欺诈
供电内容管理系统- 产品