网络犯罪分子正在利用人工智能进行欺诈和制造恶意软件。

美国联邦调查局 (FBI) 最近警告称，由人工智能程序驱动的网络攻击正在增多。据该机构称，网络犯罪分子正在利用开源人工智能程序进行各种恶意活动，包括开发恶意软件和网络钓鱼攻击。倾向于利用人工智能技术进行网络钓鱼攻击或开发恶意软件的人数正在以惊人的速度增长，此类活动的影响也日益增大。

FBI 还认为，像 ChatGPT 这样安全性极高的人工智能模型已被利用来开发能够绕过最新安全系统的恶意软件。

一些 IT 专家最近发现了 ChatGPT 的危险潜力及其创建端点检测和响应 (EDR) 系统几乎无法检测到的恶意软件的能力。

EDR 是一套网络安全工具，旨在检测并清除网络上的恶意软件或任何其他可疑活动。然而，专家表示，这种传统协议并不适用于 ChatGPT 可能造成的潜在危害。

恶意活动的范围包括使用人工智能程序来改进和发起诈骗，以及恐怖分子咨询技术来帮助他们发动更强大的化学袭击。

大多数大型语言模型 (LLM)（例如 ChatGPT）都内置了过滤器，以避免生成其创建者认为不适当的内容。这些内容可能涵盖特定主题，也可能涵盖本例中的恶意代码。然而，用户很快就能找到绕过这些过滤器的方法。正是这种策略使得 ChatGPT 特别容易受到那些试图创建恶意脚本的人的攻击。

一位联邦调查局高级官员表示：“我们预计，随着时间的推移，随着人工智能模型的采用和民主化，这些趋势将会增强。”

虽然 FBI 没有透露犯罪分子使用的具体人工智能模型，但该机构警告说，黑客正在寻找免费、可定制的开源模型，以及黑客自己开发的人工智能程序。

FBI官员补充说，经验丰富的网络犯罪分子正在利用人工智能技术开发新的恶意软件攻击，包括使用人工智能生成的网站作为钓鱼页面，秘密传播恶意计算机代码。同样的技术也在帮助黑客开发能够逃避杀毒软件检测的新型恶意软件。

美国联邦调查局此前曾警告称，诈骗分子正在利用人工智能图像生成器，制作逼真的、带有性暗示的受害者假图像，以勒索钱财。该机构正在调查的大多数案件都涉及犯罪分子使用人工智能模型来增强其传统诈骗手段。这包括试图利用人工智能语音克隆技术，通过诈骗电话欺骗亲人或老年人。

面对这一问题，亚马逊、谷歌、Meta、OpenAI等全球领先的科技公司已签署承诺，采取措施管理其AI工具，并在向公众发布其创建的AI程序之前对其进行独立审计，并将开发解决方案来标记AI生成的内容，以帮助用户避免错误信息和欺诈行为。

科技公司也誓言要投资网络安全，以保护其专有的人工智能代码免遭盗窃或泄露。人工智能未来的三大基本原则是安全、保障和信任。