FBI警告称,网络犯罪分子已将人工智能用于几乎所有类型的欺诈行为
美国联邦调查局(FBI)警告称,网络犯罪分子越来越多地使用人工智能(AI)来创建虚假文本、图像、音频和视频,从而增加了其诈骗的规模和复杂程度。
诈骗分子正利用人工智能的进步,制造大量极具说服力的虚假内容,并自动化诈骗活动,以扩大其业务规模。联邦调查局 (FBI) 已概述了数十种网络犯罪分子滥用人工智能来进一步实施诈骗的方式。
联邦调查局在一份公告中指出:“生成式人工智能尤其能减少犯罪分子实施诈骗所需的时间和精力。这些工具不仅有助于内容创作,还能纠正人为错误,而这些错误可能是欺诈活动的警示信号。”
.jpg)
使用人工智能生成的内容并非总是违法的。然而,当它被用于欺诈、勒索或其他犯罪等邪恶目的时,识别其来源并检测其是否由人工智能生成就变得极其困难。
FBI 认为,提供人工智能如何被用于网络犯罪的具体例子将有助于揭露骗局并提高公众对威胁的认识。
网络犯罪分子利用人工智能生成的文本欺骗读者
人工智能生成的文本通常极具说服力,但很容易被欺骗,犯罪分子正利用这些文本实施各种欺诈行为,例如社交工程诈骗、电子邮件诈骗、爱情诈骗、投资诈骗以及许多其他骗局。此类内容可能会在以下情况下被滥用:
- 在社交媒体平台上创建多个虚假个人资料,使用虚假信息、图像和身份来赢得受害者的信任。
- 使用快速反应策略有助于诈骗者优化其在线接触和吸引广泛目标受众的能力。
- 诈骗网站通常会设计具有吸引力的专业内容,以吸引用户参与不透明的投资活动。
- 在诈骗网站上,集成人工智能技术的聊天机器人被编程为以自然和令人信服的方式与受害者互动。
网络犯罪分子利用人工智能生成的虚假图像进行欺诈
网络犯罪分子正在迅速利用人工智能制作逼真的虚假图像,用于制作个人资料图片、身份证和伪造文件。联邦调查局警告称,这些图像正被用于各种诈骗,包括:
- 虚假社交媒体资料是社会工程攻击的工具,用于进行电子邮件诈骗、爱情诈骗、信任诈骗,并引诱受害者进行虚假投资。
- 伪造文件,例如驾驶执照或身份证,是对官方文件的复杂模仿,使犯罪分子能够冒充和窃取身份以实施复杂的诈骗。

- 在私人聊天中使用经过精心编辑的图像,让受害者相信虚假身份,从而建立信任。
- 利用名人或有影响力人士的形象推销假冒产品或欺诈计划,利用公众人物的声誉来增加说服力并吸引受害者。
- 利用自然灾害和悲惨事故的图像来引起同情,呼吁向虚假慈善机构捐款,并诱骗受害者转账。
- 制作受害者的敏感图像以进行勒索、威胁其名誉并迫使他们支付金钱或满足其他要求。
网络犯罪分子利用人工智能克隆声音来欺骗受害者
网络犯罪分子会冒充名人、公众人物,甚至是受害者的私人关系人,以骗取他们的钱财。联邦调查局记录了几起利用人工智能生成的音频作为复杂工具的案例,其中包括:
- 使用人工智能创建亲人的虚假声音,模拟紧急情况以利用同情心并诱骗受害者汇款或支付赎金。
- 利用人工智能声音生成技术绕过语音认证,获取银行账户访问权限并进行未经授权的交易,给受害者造成严重损失。
网络犯罪分子利用人工智能生成的视频进行诈骗视频通话
联邦调查局警告称,网络犯罪分子越来越多地利用人工智能技术制作看似真实可信的虚假视频,包括以下内容:
- 使用人工智能生成的虚假视频进行实时视频聊天,冒充公司领导、执法人员或其他授权个人进行诈骗并获取受害者的信任。

- 使用虚假视频进行私人对话,以“证明”在线联系的人是“真实”且值得信赖的人,从而更有效地操纵受害者。
- 使用虚假视频推广欺诈性投资项目,这些视频通常包含虚假或虚构的内容,以吸引和欺骗投资者。这些视频旨在营造一种专业性和信任感,从而诱使受害者投资于不存在的项目。
以及 FBI 提供的保护自己免受网络犯罪侵害的建议
识别人工智能生成的诈骗正变得越来越复杂,因为它们的设计初衷就是为了欺骗即使是经验丰富的人类。鉴于此,FBI 提供了一些实用技巧,帮助你保护自己免受潜在威胁。
- 在您的家庭内部建立一个秘密单词或短语,用作紧急情况下的身份验证方法。
- 人工智能生成的图像或视频通常存在一些瑕疵,容易让人误以为是假货。这些瑕疵包括:手脚变形、牙齿或眼睛异常、脸部不对称或不清晰,以及眼镜或珠宝等配饰看起来不逼真。

此外,还可能出现其他异常,例如不准确的阴影、不自然的水印、实时延迟增加、语音不同步以及缺乏流畅度或保真度的运动。
- 密切注意语气和措辞,因为这些是区分亲人真实来电和人工智能产生的虚假声音的重要线索。
- 谨慎处理包含您图像和声音的在线内容。将您的社交媒体帐户设置为私密,并将关注者限制在您真正认识的人范围内。这些措施可以降低您的个人信息被用于欺诈的风险。
- 切勿与仅在网上或电话中认识的人分享敏感信息。此外,切勿向不熟悉的人或仅在网上或电话中认识的人转账、礼品卡、加密货币或任何资产。
一个重要的规则是,不要相信任何给你打电话的人。相反,你应该主动从可靠的来源查找银行或相关机构的官方联系信息,并直接拨打官方网站上提供的电话号码。