Le FBI avertit que les cybercriminels utilisent déjà l'IA pour la plupart des types de fraude

Les fraudeurs exploitent les progrès de l'IA pour créer de grandes quantités de faux contenus très convaincants et automatiser leurs escroqueries afin d'accroître leurs opérations. Le FBI a identifié des dizaines de façons dont les cybercriminels exploitent l'IA pour optimiser leurs opérations frauduleuses.

« L'IA générative, en particulier, réduit le temps et les efforts nécessaires aux criminels pour exécuter leurs escroqueries », a indiqué le FBI dans un avis public. « Ces outils facilitent non seulement la création de contenu, mais peuvent également corriger les erreurs humaines qui peuvent signaler une activité frauduleuse. »

L'utilisation de contenu généré par l'IA n'est pas toujours illégale. Cependant, lorsqu'il est utilisé à des fins malveillantes comme la fraude, l'extorsion ou d'autres délits, il peut être extrêmement difficile d'en identifier la source et de déterminer s'il a été généré par l'IA.

Le FBI estime que fournir des exemples concrets de la manière dont l’IA est utilisée dans la cybercriminalité contribuera à révéler les escroqueries et à sensibiliser le public à la menace.

Les cybercriminels utilisent du texte généré par l'IA pour tromper les lecteurs

Les textes générés par l'IA sont souvent très convaincants et trompent facilement les lecteurs. Ils sont exploités par des criminels pour commettre des escroqueries telles que des attaques d'ingénierie sociale, des arnaques par courriel, des arnaques sentimentales, des escroqueries à l'investissement et bien d'autres stratagèmes frauduleux. Ces contenus peuvent être utilisés abusivement dans des situations telles que :

- Création de plusieurs faux profils sur les plateformes de médias sociaux en utilisant de fausses informations, images et identités pour gagner la confiance des victimes.

- L’utilisation de tactiques de réponse rapide aide les escrocs à optimiser leur capacité à atteindre et à interagir avec un large éventail de publics cibles en ligne.

- Les sites Web frauduleux sont souvent conçus avec un contenu attrayant et professionnel pour inciter les utilisateurs à participer à des activités d’investissement non transparentes.

- Sur les sites Web frauduleux, les chatbots alimentés par l’IA sont programmés pour interagir avec les victimes de manière naturelle et convaincante.

Les cybercriminels utilisent de fausses images générées par l'IA pour commettre des fraudes

Les cybercriminels exploitent rapidement l'IA pour créer de fausses images crédibles, utilisées comme photos de profil, cartes d'identité et faux documents. Le FBI met en garde contre l'utilisation de ces images à diverses fins frauduleuses, notamment :

- Les faux profils sur les réseaux sociaux sont un outil d'attaques d'ingénierie sociale, utilisé pour mener des escroqueries par courrier électronique, des escroqueries amoureuses, des escroqueries de confiance et pour attirer les victimes vers de faux investissements.

- Les documents falsifiés, tels que les permis de conduire ou les cartes d’identité, sont des imitations sophistiquées de documents officiels, permettant aux criminels de se faire passer pour des personnes et de voler des identités afin de mener des escroqueries complexes.

- Utiliser des images sophistiquée retouchées dans des conversations privées pour convaincre les victimes de croire en de fausses identités, instaurant ainsi la confiance.

- Exploiter l’image de célébrités ou d’influenceurs pour promouvoir de faux produits ou des programmes frauduleux, exploiter la réputation de personnalités publiques pour accroître leur force de persuasion et attirer des victimes.

- Utiliser des images de catastrophes naturelles et d’accidents tragiques pour susciter la compassion, appeler à des dons à de fausses organisations caritatives et inciter les victimes à transférer de l’argent.

- Créer des images sensibles des victimes pour les faire chanter, menacer leur réputation et les forcer à payer de l’argent ou à répondre à d’autres exigences.

Les cybercriminels clonent des voix à l'aide de l'IA pour tromper leurs victimes

Les cybercriminels se font passer pour des célébrités, des personnalités publiques, voire des proches de leurs victimes, afin de les escroquer. Le FBI a recensé plusieurs cas où des enregistrements audio générés par l'IA ont été utilisés comme outil sophistiqué, notamment :

- Utiliser l'IA pour créer de fausses voix d'êtres chers, simuler des situations d'urgence pour exploiter la compassion et inciter les victimes à envoyer de l'argent ou à payer une rançon.

- Exploiter la technologie de génération de sons de l'IA pour contourner l'authentification vocale, accéder aux comptes bancaires et effectuer des transactions non autorisées, causant de graves dommages aux victimes.

Les cybercriminels utilisent des vidéos générées par l'IA dans des appels vidéo frauduleux

Le FBI prévient que les cybercriminels exploitent de plus en plus la technologie de l'IA pour créer de fausses vidéos qui semblent authentiques et crédibles, y compris des contenus tels que :

- Utiliser de fausses vidéos générées par l'IA pour mener des conversations vidéo en direct, se faire passer pour des dirigeants d'entreprise, des agents des forces de l'ordre ou d'autres personnes autorisées pour frauder et gagner la confiance des victimes.

- Utiliser de fausses vidéos pour mener des conversations privées, pour « prouver » que la personne qui contacte en ligne est une personne « réelle » et digne de confiance, manipulant ainsi la victime plus efficacement.

- Utilisation de fausses vidéos créées pour promouvoir des programmes d'investissement frauduleux, contenant souvent du contenu faux ou fictif pour attirer et tromper les investisseurs. Ces vidéos sont conçues pour créer un sentiment de professionnalisme et de confiance, et ainsi convaincre les victimes d'investir dans des projets fictifs.

Et les recommandations du FBI pour vous protéger de la cybercriminalité

Identifier les arnaques générées par l'IA devient de plus en plus complexe, car elles sont conçues pour tromper même les humains expérimentés. Dans ce contexte, le FBI propose quelques conseils utiles pour vous protéger des menaces potentielles.

- Établissez un mot ou une phrase secrète au sein de votre famille, à utiliser comme méthode de vérification d’identité dans les situations d’urgence.

Les images ou vidéos générées par l'IA présentent souvent des défauts qui peuvent trahir une contrefaçon. Il peut s'agir de mains ou de pieds déformés, de dents ou d'yeux inhabituels, de visages asymétriques ou flous, et d'accessoires comme des lunettes ou des bijoux qui paraissent irréalistes.

De plus, d'autres anomalies peuvent apparaître, telles que des ombres inexactes, des filigranes non naturels, une latence accrue en temps réel, des voix off désynchronisées et des mouvements manquant de fluidité ou de fidélité.

- Faites très attention au ton et au choix des mots, car ils peuvent être des indices importants pour faire la distinction entre un véritable appel d’un être cher et une fausse voix générée par l’IA.

Soyez prudent avec les contenus en ligne qui incluent votre image et votre voix. Privilégiez vos comptes de réseaux sociaux et limitez votre liste d'abonnés aux personnes que vous connaissez réellement. Ces mesures réduisent le risque que vos informations personnelles soient utilisées à des fins frauduleuses.

- Ne partagez jamais d'informations sensibles avec des personnes rencontrées uniquement en ligne ou par téléphone. De même, ne transférez jamais d'argent, de cartes-cadeaux, de cryptomonnaies ni aucun autre actif à des personnes que vous ne connaissez pas bien ou que vous n'avez rencontrées qu'en ligne ou par téléphone.

Une règle importante est de ne pas faire confiance à quiconque vous appelle. Recherchez plutôt les coordonnées officielles de la banque ou de l'organisation concernée auprès de sources fiables et appelez directement le numéro indiqué sur le site officiel.