Les escroqueries utilisant la technologie deepfake vont augmenter en 2024.

Qu'est-ce qu'un deepfake ?

Le terme « deepfake », contraction de « deep learning » et « fake », désigne une technologie qui simule les traits du visage humain et crée de faux contenus audio, visuels, voire vidéo. Les créateurs de deepfakes peuvent manipuler les médias et remplacer l'apparence d'une personne réelle par celle d'un individu réel.

La technologie deepfake repose essentiellement sur la plateforme d'apprentissage automatique open source de Google. Elle consiste à analyser des vidéos et des photos d'une personne, puis à les fusionner avec d'autres vidéos grâce à l'intelligence artificielle (IA), en remplaçant les détails du visage tels que les yeux, la bouche et le nez par des mouvements faciaux et une voix réalistes.

Plus le nombre d'images originales disponibles est élevé, plus l'IA dispose de données pour apprendre et créer des images ou des vidéos truquées plus réalistes. Les deepfakes permettent de superposer le visage d'une personne sur celui d'une autre dans une vidéo avec un réalisme saisissant.

Les deepfakes vont se multiplier durant l'année électorale 2024.

L’utilisation de deepfakes pour usurper l’identité de personnalités politiques est de plus en plus courante, d’autant plus que 2024 est l’année électorale mondiale la plus importante de l’histoire.

Selon certaines sources, au moins 60 pays et plus de 4 milliards de personnes dans le monde éliront leurs dirigeants et représentants cette année, ce qui fait des deepfakes une préoccupation majeure.

D'après un rapport de Sumsub, les médias en ligne, notamment les plateformes de médias sociaux et la publicité numérique, ont enregistré la plus forte augmentation des fraudes d'identité entre 2021 et 2023, à un taux de 274 %. Des secteurs tels que la santé, les transports et les jeux vidéo ont également été touchés par ce fléau.

En outre, dans un rapport mondial sur les menaces de 2024, la société de technologie de cybersécurité CrowdStrike (États-Unis) a déclaré qu'avec un grand nombre d'élections à venir cette année, la désinformation et/ou les fausses nouvelles pourraient apparaître pour semer l'instabilité.

Ainsi, avant les élections indonésiennes du 14 février, une vidéo a circulé sur les réseaux sociaux montrant le défunt président Suharto apportant son soutien au parti politique qu'il avait dirigé. Cependant, cette vidéo a été identifiée comme un deepfake créé par une intelligence artificielle, qui avait copié son visage et sa voix. Cette vidéo truquée a cumulé 4,7 millions de vues sur la plateforme X (anciennement Twitter).

Ce n'est pas la première fois que des vidéos truquées (deepfakes) font surface. Au Pakistan, une fausse information concernant l'ancien Premier ministre Imran Khan a circulé pendant la période électorale, prétendant que son parti boycotterait les élections. Aux États-Unis, dans le New Hampshire, des électeurs ont découvert un article de fausse information selon lequel le président Joe Biden leur demandait de ne pas voter aux primaires.

Les experts estiment que la plupart des contenus truqués (deepfakes) sont créés par des acteurs nationaux. Carol Soon, chercheuse et directrice du département Culture et Société à l'Institut d'études politiques de Singapour, a indiqué que ces acteurs pourraient inclure des groupes d'opposition et des rivaux politiques, ou encore des extrémistes de droite comme de gauche.

Parallèlement, Simon Chesterman, directeur principal de la gouvernance des projets d'IA au sein du Programme national d'IA de Singapour, a déclaré que l'Asie n'était pas encore prête à aborder la question des deepfakes dans les élections sous trois angles : juridique, technologique et éducatif.

Quels sont les dangers posés par les deepfakes ?

Commentant les dangers posés par les deepfakes, Carol Soon a déclaré qu'à tout le moins, les deepfakes polluent l'écosystème informationnel et rendent difficile pour les gens de trouver des informations exactes et de se forger des opinions bien fondées sur un parti ou un candidat.

À cet égard, Simon Chesterman a affirmé que les électeurs pourraient également se détourner d'un candidat s'ils voient des informations relatives à un scandale se propager rapidement sur les réseaux sociaux avant même qu'elles ne soient démasquées comme fausses. Bien que certains gouvernements disposent d'outils pour lutter contre la désinformation en ligne, le risque est que la vérité soit déformée avant même de pouvoir être rétablie.

« Nous avons constaté la rapidité avec laquelle X (anciennement Twitter) peut être envahi par des deepfakes pornographiques impliquant la chanteuse Taylor Swift. Ces contenus peuvent se propager à une vitesse incroyable », a ajouté Chesterman, soulignant que les contre-mesures sont souvent insuffisantes et extrêmement difficiles à appliquer. « Bien souvent, il est trop tard. »

Adam Meyers, de la société de cybersécurité CrowdStrike, explique que les deepfakes peuvent également induire un biais de confirmation, un phénomène lié au traitement de l'information chez l'humain. « Même s'ils savent au fond d'eux-mêmes que c'est faux, ils l'accepteront quand même si cela correspond au message qu'ils souhaitent recevoir et à ce qu'ils veulent croire », explique-t-il.

À ces inquiétudes s'ajoute le fait que Chesterman a soutenu qu'une fausse vidéo montrant des irrégularités électorales, telles que l'achat de votes, pourrait éroder la confiance des électeurs dans la légitimité de l'élection.

Selon Mme Soon, les candidats peuvent nier la vérité sur eux-mêmes en prétendant que les informations négatives les concernant sont fabriquées de toutes pièces.

Les principales entreprises technologiques s'engagent à lutter contre les deepfakes.

En février dernier, 20 grandes entreprises technologiques, dont Microsoft, Meta, Google, Amazon, IBM, ainsi que la société d'intelligence artificielle OpenAI et des entreprises de médias sociaux telles que Snap, TikTok et X, ont convenu d'un engagement commun pour lutter contre l'utilisation de l'intelligence artificielle à des fins frauduleuses lors des élections de cette année.

L’engagement signé constitue une première étape importante, mais son efficacité dépend de sa mise en œuvre et de son application. Selon Mme Soon, pour y parvenir, les entreprises technologiques doivent adopter une approche multidimensionnelle et appliquer différentes mesures sur leurs plateformes. Elles doivent également garantir la transparence des décisions prises, notamment concernant les processus mis en place.

Cependant, selon Simon Chesterman, il ne faut pas trop attendre des entreprises privées qui assurent des fonctions communautaires de base. Déterminer le contenu autorisé sur les réseaux sociaux est une décision complexe, et certaines entreprises peuvent mettre des mois à se décider.

Pour atteindre cet objectif, la Content Verification and Validation Alliance (C2PA) a mis en place une plateforme dédiée à la vérification des informations numériques relatives aux contenus. Cette plateforme permet aux utilisateurs d'obtenir des informations vérifiées telles que le créateur, la source et la date de création, ainsi que la nature générale des informations ou la mention de leur origine (IA, par exemple).

Parmi les entreprises membres de C2PA figurent Adobe, Microsoft, Google et Intel. OpenAI a annoncé en début d'année le déploiement de la technologie d'authentification C2PA pour les images créées à l'aide du langage de modélisation d'images DALL·E 3.

Dans une interview accordée à Bloomberg House lors du Forum économique mondial en janvier dernier, Sam Altman, fondateur et PDG d'OpenAI, a déclaré que l'entreprise s'attachait fermement à veiller à ce que sa technologie ne soit pas utilisée pour manipuler les élections.

Adam Meyers, de la société de cybersécurité CrowdStrike, a proposé la création d'une organisation technique à but non lucratif et apolitique chargée d'analyser et d'identifier les deepfakes. « Le public pourrait transmettre à cette organisation tout contenu qu'il soupçonne d'avoir été falsifié. Bien que la communication ne soit pas aisée, cela permettrait au moins de disposer d'un mécanisme fiable », a déclaré Meyers.

En définitive, si la technologie fait partie de la solution, une grande partie repose sur l'utilisateur. Le public doit être plus vigilant ; outre la vérification de l'authenticité des informations qui semblent suspectes, les utilisateurs doivent également s'assurer de l'authenticité des informations importantes, notamment avant de les partager.