Des pirates informatiques utilisent ChatGPT pour créer des logiciels malveillants sophistiqués.

Un rapport récent a révélé la réalité alarmante de l'exploitation de ChatGPT à des fins de cyberattaques. Plus de 20 incidents ont été recensés depuis début 2024, au cours desquels des pirates informatiques ont utilisé ChatGPT pour mener des attaques de phishing, voler des données et perturber des systèmes, causant des dommages considérables à de nombreuses organisations et particuliers.

Un rapport d'OpenAI révèle une réalité alarmante : des groupes de pirates informatiques liés à des États, notamment chinois et iraniens, exploitent les capacités de ChatGPT pour renforcer l'efficacité de leurs cyberopérations. Du perfectionnement de logiciels malveillants sophistiqués à la création de campagnes de propagande malveillante sur les réseaux sociaux, ChatGPT est devenu un outil puissant pour les cyberattaques de grande envergure.

Un développement alarmant révèle que le groupe de pirates informatiques chinois « SweetSpecter » exploitait ChatGPT pour mener des activités malveillantes. Ce groupe utilisait ChatGPT pour collecter des informations sensibles, rechercher des failles de sécurité dans les systèmes et développer de nouveaux types de logiciels malveillants. Ils ont même audacieusement attaqué OpenAI directement par le biais d'attaques de phishing, dans le but d'accéder aux données des employés et de les voler.

Une autre menace sérieuse provient du groupe de pirates informatiques iraniens « CyberAv3ngers », étroitement lié au Corps des gardiens de la révolution islamique. Ce groupe a exploité ChatGPT pour rechercher des vulnérabilités dans les systèmes de contrôle des usines et des infrastructures critiques. Leur objectif est de créer des codes malveillants pour attaquer et paralyser ces systèmes, entraînant ainsi de graves conséquences.

Par ailleurs, un autre groupe de pirates informatiques iranien, connu sous le nom de « STORM-0817 », a également été découvert. Il exploite l'intelligence artificielle pour créer des logiciels malveillants destinés aux téléphones Android. Ces logiciels sont capables de dérober des informations personnelles telles que les numéros de téléphone, l'historique des appels et la géolocalisation des utilisateurs.

Bien que des groupes de pirates informatiques aient expérimenté l'utilisation de ChatGPT pour créer des logiciels malveillants, OpenAI affirme que cela n'a pas permis de réaliser d'avancées majeures dans le domaine des cyberattaques. ChatGPT n'est qu'un outil d'aide à la décision, et la création de cyberattaques efficaces requiert toujours l'expertise et l'expérience humaines.

L'entreprise affirme que les observations faites lors de l'utilisation de GPT-4 par des pirates informatiques sont restées dans les limites des capacités initialement prévues. Autrement dit, GPT-4 n'est pas encore capable de mener des cyberattaques plus sophistiquées et efficaces que d'autres outils.

Le rapport indique que le développement de l'IA générative facilite le piratage informatique. N'importe qui, même ceux qui possèdent peu de connaissances techniques, peut utiliser l'IA pour créer des outils de cyberattaque, augmentant ainsi leur risque d'être victimes d'attaques.

Pour contrer ces menaces, OpenAI a mis en œuvre des mesures de prévention des activités malveillantes, notamment la suspension des comptes associés aux activités identifiées. L'entreprise collabore également avec des partenaires et des parties prenantes du secteur afin de partager des informations sur les menaces et d'améliorer collectivement la cybersécurité.

Les experts en sécurité craignent que cette situation ne s'aggrave à mesure que l'intelligence artificielle (IA) devient plus performante. Ils estiment que les entreprises qui développent l'IA doivent mettre en place des mesures de protection robustes et des systèmes de détection efficaces afin d'empêcher les personnes malveillantes d'exploiter cette technologie à des fins néfastes.

Les révélations d'OpenAI sonnent l'alarme pour l'industrie technologique et les décideurs politiques, les incitant à prendre en compte les risques potentiels associés aux systèmes d'IA avancés.

Aujourd'hui, l'intelligence artificielle (IA) est de plus en plus présente dans nos vies. Pour tirer pleinement parti de ses avantages tout en garantissant la sécurité, il est essentiel de trouver un équilibre entre le développement de nouvelles technologies et la protection des données personnelles. Cela permettra d'empêcher les personnes mal intentionnées d'exploiter l'IA à des fins malveillantes.

OpenAI s'engage à tout mettre en œuvre pour empêcher toute utilisation malveillante de ses outils d'IA à des fins néfastes. L'entreprise continuera de rechercher et d'éliminer ces activités malveillantes et partagera son expérience avec d'autres chercheurs afin de construire conjointement un système de sécurité plus robuste. OpenAI renforcera également ses défenses contre les attaques de pirates informatiques professionnels, notamment ceux liés à des gouvernements.

À l'avenir, l'IA jouera un rôle crucial dans nos vies. Toutefois, pour éviter les risques potentiels, les développeurs d'IA, les experts en cybersécurité et les gouvernements doivent collaborer étroitement. Ils doivent œuvrer ensemble pour trouver des moyens de développer une IA sûre et sécurisée, tout en empêchant les acteurs malveillants de l'exploiter à des fins nuisibles.