Les pirates informatiques utilisent ChatGPT pour créer des logiciels malveillants sophistiqués

Un rapport récent a révélé la réalité alarmante de l'exploitation de ChatGPT à des fins de cyberattaques. Plus de 20 incidents ont été recensés depuis début 2024, au cours desquels des pirates ont utilisé ChatGPT pour mener des attaques de phishing, voler des données et perturber des systèmes, causant de graves dommages à de nombreuses organisations et particuliers.

Le rapport d'OpenAI révèle un fait alarmant : des groupes de pirates informatiques liés à des États, notamment chinois et iraniens, exploitent pleinement les capacités de ChatGPT pour optimiser leurs cyberopérations. Du perfectionnement de logiciels malveillants complexes à la création de campagnes malveillantes sur les réseaux sociaux, ChatGPT est devenu un outil puissant pour les cyberattaques à grande échelle.

Fait inquiétant, le groupe de hackers chinois « SweetSpecter » a été découvert en train d'exploiter ChatGPT à des fins malveillantes. Le groupe utilise ChatGPT pour collecter des informations sensibles, rechercher des failles de sécurité dans le système et développer de nouveaux types de logiciels malveillants. Il a même osé attaquer OpenAI par hameçonnage afin d'accéder aux données des employés de l'entreprise et de les voler.

Une autre menace sérieuse provient du groupe de hackers iranien « CyberAv3ngers », étroitement lié au Corps des gardiens de la révolution islamique. Ce groupe utilise ChatGPT pour identifier les failles des systèmes de contrôle des usines et des infrastructures critiques. Son objectif est de créer du code malveillant pour attaquer et paralyser ces systèmes, entraînant de graves conséquences.

Par ailleurs, un autre groupe de pirates iraniens, baptisé « STORM-0817 », a également été découvert, utilisant l'intelligence artificielle pour créer des logiciels malveillants ciblant les téléphones Android. Ces logiciels malveillants sont capables de voler les informations personnelles des utilisateurs, telles que leurs numéros de téléphone, leur historique d'appels et leur localisation.

Bien que des groupes de hackers aient expérimenté l'utilisation de ChatGPT pour créer des logiciels malveillants, OpenAI affirme que cela n'a pas permis de percées majeures dans le domaine des cyberattaques. ChatGPT n'est qu'un outil de support, et la création de cyberattaques efficaces nécessite toujours l'expertise et l'expérience humaines.

L'entreprise affirme que les résultats observés lors de l'utilisation de GPT-4 par les pirates informatiques correspondaient aux capacités initialement prévues. Autrement dit, GPT-4 n'était pas capable de créer des cyberattaques plus sophistiquées et plus efficaces que d'autres outils.

Le rapport révèle que l'essor de l'IA générative facilite l'accès au piratage informatique. N'importe qui, même avec peu de connaissances techniques, peut utiliser l'IA pour créer des outils de cyberattaque, augmentant ainsi son risque d'être attaqué.

Face à ces menaces, OpenAI a mis en œuvre des mesures pour prévenir les activités malveillantes, notamment le bannissement des comptes associés aux activités identifiées. L'entreprise collabore également avec des partenaires et des parties prenantes du secteur pour partager des informations sur les menaces et améliorer les défenses collectives en matière de cybersécurité.

Les experts en sécurité craignent que la situation ne s'aggrave à mesure que l'IA gagne en intelligence. Ils affirment que les entreprises qui développent l'IA doivent se doter de mesures de protection solides et de systèmes de détection performants pour empêcher les acteurs malveillants d'exploiter cette technologie à des fins malveillantes.

Les révélations d’OpenAI servent de signal d’alarme pour l’industrie technologique et les décideurs politiques afin qu’ils prennent en compte les risques potentiels associés aux systèmes d’IA avancés.

L'IA prend une place croissante dans nos vies. Pour maximiser ses avantages tout en garantissant la sécurité, nous devons trouver un équilibre entre le développement de nouvelles technologies et la protection des données personnelles. Cela permettra d'empêcher les acteurs malveillants d'exploiter l'IA à des fins malveillantes.

OpenAI s'engage à tout mettre en œuvre pour empêcher les acteurs malveillants d'utiliser ses outils d'IA à des fins malveillantes. L'entreprise continuera de détecter et d'éliminer les comportements malveillants, et de partager ses connaissances avec d'autres chercheurs afin de construire ensemble des systèmes de sécurité plus performants. OpenAI renforcera également ses défenses contre les attaques des pirates informatiques professionnels, notamment ceux liés au gouvernement.

À l'avenir, l'IA jouera un rôle important dans nos vies. Cependant, pour éviter les risques potentiels, les développeurs d'IA, les experts en cybersécurité et les gouvernements doivent collaborer étroitement. Ensemble, ils doivent trouver des moyens de développer l'IA de manière sûre et sécurisée, et d'empêcher les acteurs malveillants de l'exploiter à des fins néfastes.