Le FBI avertit que les cybercriminels utilisent l'IA pour la plupart des types d'escroqueries.

Les escrocs exploitent les progrès de l'intelligence artificielle pour créer des quantités massives de faux contenus extrêmement convaincants, tout en automatisant leurs arnaques afin d'étendre leurs activités. Le FBI a recensé des dizaines de méthodes utilisées par les cybercriminels pour détourner l'IA et faciliter leurs fraudes.

« Concrètement, l’intelligence artificielle générative contribue à réduire le temps et les efforts nécessaires aux criminels pour mener à bien des escroqueries », a souligné le FBI dans un communiqué. « Ces outils facilitent non seulement la création de contenu, mais peuvent également corriger les erreurs humaines qui pourraient autrement constituer des signes avant-coureurs de fraude. »

L'utilisation de contenu généré par l'IA n'est pas toujours illégale. Cependant, lorsque ce contenu est utilisé à des fins illicites telles que la fraude, l'extorsion ou d'autres crimes, il devient extrêmement difficile d'en identifier l'origine et de déterminer s'il a été généré par l'IA.

Le FBI estime que fournir des exemples concrets de la manière dont l'IA est exploitée dans la cybercriminalité contribuera à démasquer les escroqueries et à sensibiliser le public à cette menace.

Les cybercriminels utilisent des textes générés par l'IA pour tromper les lecteurs.

Les textes générés par l'IA sont souvent très persuasifs, trompent facilement les lecteurs et sont exploités par des criminels pour mener des activités frauduleuses telles que des cyberattaques, des arnaques par courriel, des escroqueries sentimentales, des arnaques à l'investissement et bien d'autres stratagèmes frauduleux. Ce contenu peut être utilisé à mauvais escient dans des situations telles que :

- Création de nombreux faux profils sur les plateformes de médias sociaux, utilisant de fausses informations, images et identités pour gagner la confiance des victimes.

- L'utilisation de tactiques générant des réponses rapides permet aux escrocs d'optimiser leur portée et leurs interactions avec un public cible plus large en ligne.

- Les sites web frauduleux sont souvent conçus avec un contenu attrayant et professionnel pour inciter les utilisateurs à participer à des activités d'investissement douteuses.

- Sur les sites web d'hameçonnage, les chatbots alimentés par l'IA sont programmés pour interagir avec les victimes de manière naturelle et persuasive.

Les cybercriminels utilisent de fausses images générées par l'IA pour perpétrer des escroqueries.

Les cybercriminels exploitent rapidement l'IA pour créer des images falsifiées très réalistes, qu'ils utilisent comme photos de profil, documents d'identité et autres supports frauduleux. Le FBI met en garde contre l'utilisation de ces images à des fins frauduleuses diverses, notamment :

- Les faux profils sur les réseaux sociaux sont des outils utilisés dans les attaques non techniques, pour perpétrer des escroqueries par courriel, des manipulations émotionnelles, des abus de confiance et pour attirer les victimes dans de faux systèmes d'investissement.

- Les faux documents, tels que les permis de conduire ou les cartes d'identité, sont des imitations sophistiquées de documents officiels, permettant aux fraudeurs d'usurper l'identité d'autrui et de perpétrer des escroqueries complexes.

- Utiliser des images retouchées de manière sophistiquée dans des conversations privées pour convaincre les victimes d'une fausse identité, et ainsi instaurer un climat de confiance.

- Exploiter l'image de célébrités ou d'influenceurs pour promouvoir des produits contrefaits ou des programmes frauduleux, en utilisant le prestige des personnalités publiques pour accroître la persuasion et attirer des victimes.

- Utiliser des images de catastrophes naturelles et d'accidents tragiques pour susciter la compassion, solliciter des dons pour de fausses œuvres caritatives et tromper les victimes afin qu'elles transfèrent de l'argent.

- Créer des images compromettantes des victimes pour les faire chanter, menacer leur réputation et les contraindre à payer de l'argent ou à se soumettre à d'autres exigences.

Les cybercriminels utilisent le clonage vocal basé sur l'IA pour tromper leurs victimes.

Des cybercriminels se font passer pour des célébrités, des personnalités publiques, voire des personnes proches de leurs victimes, afin de leur soutirer de l'argent. Le FBI a recensé plusieurs cas d'utilisation de fichiers audio générés par intelligence artificielle comme outil sophistiqué, notamment :

- Utiliser l'IA pour créer de fausses voix de proches, simuler des situations d'urgence afin d'exploiter la compassion des victimes et les inciter à envoyer de l'argent ou à payer des rançons.

- Exploiter la technologie vocale basée sur l'IA pour contourner l'authentification vocale, accéder aux comptes bancaires et effectuer des transactions non autorisées, causant ainsi de graves dommages aux victimes.

Les cybercriminels utilisent des vidéos générées par l'IA dans des appels vidéo frauduleux.

Le FBI avertit que les cybercriminels exploitent de plus en plus la technologie de l'IA pour créer de fausses vidéos d'apparence authentique et crédible, notamment des contenus tels que :

- Utilisation de fausses vidéos générées par l'IA pour mener des conversations vidéo en direct, en se faisant passer pour des dirigeants d'entreprise, des agents des forces de l'ordre ou d'autres personnes autorisées afin de tromper les victimes et de gagner leur confiance.

- Utiliser de fausses vidéos pour mener des conversations privées, dans le but de « prouver » que la personne qui les contacte en ligne est une personne « réelle » et digne de confiance, manipulant ainsi les victimes plus efficacement.

- Exploitation de fausses vidéos créées comme supports promotionnels pour des programmes d'investissement frauduleux, contenant souvent des informations trompeuses ou fictives afin d'attirer et de tromper les investisseurs. Ces vidéos sont conçues pour paraître professionnelles et dignes de confiance, incitant ainsi les victimes à investir dans des projets fictifs.

Voici les recommandations du FBI pour vous protéger contre la cybercriminalité.

Identifier les arnaques générées par l'IA est de plus en plus complexe, car elles sont conçues pour tromper même les personnes les plus averties. Face à ce constat, le FBI propose quelques conseils utiles pour se protéger des menaces potentielles.

- Établissez un mot ou une phrase secrète au sein de votre famille, à utiliser comme méthode de vérification d'identité en cas d'urgence.

Les images ou vidéos générées par l'IA présentent souvent des défauts révélateurs de leur falsification. Parmi ces signes, on peut citer des mains ou des pieds déformés, des dents ou des yeux d'apparence inhabituelle, des visages asymétriques ou flous, et des accessoires tels que des lunettes ou des bijoux qui semblent irréalistes.

De plus, d'autres anomalies peuvent apparaître, telles que des ombres inexactes, un flou artificiel, un décalage en temps réel accru, un doublage vocal désynchronisé et des mouvements manquant de fluidité ou de réalisme.

- Portez une attention particulière au ton de la voix et au choix des mots, car ce sont des indices cruciaux pour distinguer un appel authentique d'un être cher d'une fausse voix créée par une IA.

Soyez vigilant·e quant aux contenus en ligne où figurent votre image et votre voix. Paramétrez vos comptes de réseaux sociaux en mode privé et limitez vos abonnés aux personnes que vous connaissez réellement. Ces mesures contribuent à minimiser les risques d'utilisation frauduleuse de vos informations personnelles.

Ne partagez jamais d'informations sensibles avec des personnes rencontrées uniquement en ligne ou par téléphone. De même, ne transférez absolument pas d'argent, de cartes-cadeaux, de cryptomonnaies ou tout autre actif à des personnes que vous connaissez peu ou avec lesquelles vous communiquez uniquement en ligne ou par téléphone.

Il est important de ne pas faire aveuglément confiance à quiconque vous appelle. Prenez plutôt l'initiative de rechercher les coordonnées officielles de la banque ou de l'organisme concerné auprès de sources fiables et appelez directement le numéro de téléphone indiqué sur son site web officiel.