数字化转型

黑客正在利用 ChatGPT 创建复杂的恶意软件

潘文和 DNUM_BIZBAZCACE 14:59

近日,美国领先的人工智能研究公司OpenAI证实,黑客正在利用其ChatGPT人工智能模型创建恶意软件并实施网络攻击。

最近的一份报告揭露了ChatGPT被用于网络攻击的令人震惊的现实。自2024年初以来,已记录了20多起事件,黑客利用ChatGPT进行网络钓鱼攻击、窃取数据和破坏系统,给许多组织和个人造成了严重损失。

OpenAI 的报告揭示了一个令人震惊的事实:与政府相关的黑客组织,尤其是来自中国和伊朗的黑客组织,正在充分利用 ChatGPT 的功能来增强其网络行动。从微调复杂的恶意软件到发起恶意的社交媒体活动,ChatGPT 已成为大规模网络攻击的有力工具。

Ảnh minh họa
插图照片。

令人担忧的是,中国黑客组织“SweetSpecter”被发现滥用 ChatGPT 进行恶意活动。该组织一直在利用 ChatGPT 收集敏感信息、搜索系统安全漏洞并开发新型恶意软件。他们甚至敢于对 OpenAI 本身进行网络钓鱼攻击,以获取访问权限并窃取公司员工的数据。

另一个严重威胁来自伊朗黑客组织“Cyber​​Av3ngers”,该组织与伊朗革命卫队关系密切。该组织一直利用ChatGPT寻找工厂和关键基础设施控制系统的漏洞。他们的目标是编写恶意代码来攻击并瘫痪这些系统,造成严重后果。

此外,另一个来自伊朗的黑客组织“STORM-0817”也被发现利用人工智能技术开发针对安卓手机的恶意软件,该恶意软件能够窃取用户的个人信息,例如电话号码、通话记录和位置信息。

尽管黑客组织已经尝试使用 ChatGPT 编写恶意软件,但 OpenAI 表示,这并未在网络攻击领域带来任何突破。ChatGPT 只是一个辅助工具,创建有效的网络攻击仍然需要人类的专业知识和经验。

该公司声称,黑客使用 GPT-4 时观察到的情况仍在他们之前预测的能力范围内。换句话说,GPT-4 无法比其他工具发起更复杂、更有效的网络攻击。

报告发现,生成式人工智能的兴起使得成为黑客变得更加容易。任何人,即使是技术知识匮乏的人,都可以利用人工智能创建网络攻击工具,从而增加他们遭受攻击的风险。

为了应对这些威胁,OpenAI 已采取措施防止恶意活动,包括封禁与已识别活动相关的账户。该公司还与行业合作伙伴和利益相关者合作,共享威胁情报,并加强集体网络安全防御。

安全专家担心,随着人工智能技术变得越来越智能,这种情况只会变得更加糟糕。他们表示,开发人工智能的公司需要拥有强大的保护措施和良好的检测系统,以防止不法分子滥用这项技术进行恶意攻击。

OpenAI 的爆料给科技行业和政策制定者敲响了警钟,提醒他们注意先进人工智能系统带来的潜在风险。

人工智能在我们的生活中越来越普遍。为了在确保安全的同时最大限度地发挥人工智能的优势,我们需要在开发新技术和保护个人信息之间找到平衡。这将有助于防止不法分子利用人工智能进行恶意活动。

OpenAI 承诺将竭尽全力防止恶意行为者滥用其 AI 工具进行恶意用途。公司将继续寻找并消除不良行为,并与其他研究人员分享经验,共同构建更强大的安全系统。OpenAI 还将加强对专业黑客(尤其是与政府有关联的黑客)攻击的防御能力。

未来,人工智能将在我们的生活中扮演重要角色。然而,为了规避潜在风险,人工智能开发者、网络安全专家和政府需要紧密合作。他们需要共同努力,找到安全可靠地开发人工智能的方法,并防止不法分子利用人工智能造成危害。

潘文和