Technologie Deepfake : utile ou dangereuse ?

Nous vivons dans un monde de progrès technologiques. De nombreuses nouvelles technologies sont développées et appliquées au quotidien, notamment le deepfake.

À mesure que la technologie se perfectionne, les experts craignent qu'elle ne représente une menace sérieuse. Cependant, toute technologie a ses revers. Si l'on ignore son côté obscur, le deepfake est une technologie extrêmement utile et susceptible d'évoluer positivement à l'avenir.

Qu'est-ce que la technologie Deepfake ?

Deepfake est un terme créé par la combinaison de « Deep Learning » et de « Fake ». Il s'agit d'une technologie qui simule des images faciales humaines et crée de faux fichiers audio, images, voire vidéos. Les créateurs de deepfakes peuvent manipuler les médias et les remplacer par l'apparence d'une personne réelle.

Fondamentalement, la technologie Deepfake s'appuie sur la plateforme d'apprentissage automatique open source de Google. Deepfake analyse la vidéo et le portrait d'une personne, puis les fusionne avec une vidéo distincte grâce à l'IA et remplace les détails du visage, tels que les yeux, la bouche et le nez, par de véritables mouvements et voix. Plus les images sont originales, plus l'IA dispose de données pour les assimiler et créer des images ou des vidéos truquées plus réalistes. Deepfake peut associer le visage d'une personne à celui d'une autre dans une vidéo avec un réalisme incroyable.

Illustration

Comment fonctionne le deepfake ?

Les deepfakes utilisent deux algorithmes : un générateur pour créer des données réalistes et un discriminateur pour distinguer les données générées par le générateur des données réelles. Le générateur construit un ensemble de données d'entraînement basé sur le résultat souhaité, créant ainsi le faux contenu numérique original, tandis que le discriminateur analyse le caractère réel ou fictif de la version originale du contenu.

Ce processus est répété, ce qui permet au générateur de données d’améliorer la création de contenu réelle et au discriminateur de données de devenir plus compétent pour repérer les erreurs à corriger.

La combinaison d'algorithmes de génération et de discrimination de données crée un réseau antagoniste génératif (GAN). Les GAN utilisent l'apprentissage profond pour reconnaître des modèles dans des images réelles, puis les exploitent pour générer de fausses images.

Lors de la création d'une photo deepfake, le système GAN visualise les photos de la cible sous différents angles afin de capturer tous les détails et perspectives. Lors de la création d'une vidéo deepfake, le GAN visualise la vidéo sous plusieurs angles, analysant le comportement, les mouvements et les schémas vocaux. Ces informations sont ensuite analysées plusieurs fois par le discriminateur afin d'affiner l'authenticité de l'image ou de la vidéo et de créer une version truquée fidèle à la réalité.

Quels sont les avantages du Deepfake ?

La technologie Deepfake permet aux créateurs de créer du contenu réaliste pour les spectateurs de manière plus créative. Cette technologie permet non seulement aux créateurs d'expérimenter la création de films réalistes, mais peut également être utilisée pour améliorer la qualité des jeux vidéo et autres contenus multimédias.

La technologie avancée derrière le Deepfake est très prometteuse dans de nombreux domaines, notamment dans les industries créatives comme le cinéma et la publicité. Les campagnes publicitaires et la réalisation de films peuvent utiliser le Deepfake pour les voix off et les scènes difficiles à tourner, permettant ainsi de gagner du temps et de réduire le budget de production. Le Deepfake est également considéré comme un pur divertissement sur Internet, permettant aux utilisateurs d'échanger facilement leurs visages avec ceux de célébrités. Cette technologie est également développée pour permettre aux acheteurs en ligne d'essayer des vêtements dans des cabines d'essayage virtuelles.

Les experts en technologie estiment que, utilisé à des fins positives, le deepfake constituera un puissant outil marketing, capable de recadrer automatiquement et précisément les photos. Cette technologie apportera de nombreux avantages au secteur du marketing, notamment :

Économies de coûts

Dans certains cas, le recours à des acteurs humains n'est pas nécessaire. Le deepfake peut constituer une solution innovante pour les producteurs qui n'ont qu'à acheter une licence pour utiliser l'image de l'acteur, créer ou réutiliser une vidéo promotionnelle, puis insérer les images et les dialogues appropriés pour créer un produit publicitaire entièrement nouveau. Les producteurs peuvent même réaliser des économies en faisant appel à leur propre équipe interne pour la réalisation de la vidéo. En résumé, le deepfake sera extrêmement utile aux marketeurs disposant de budgets limités, mais souhaitant néanmoins produire du contenu de haute qualité pour leurs campagnes.

Marketing multicanal facile

Comme il n'y a pas d'acteurs réels, les marques peuvent facilement adapter leurs vidéos à la nature de chaque canal marketing. Par exemple, la marque peut utiliser le même visage pour l'intégrer à différentes plateformes, comme des vidéos publiées sur YouTube, TikTok ou des Reels sur Instagram… De plus, ce processus est moins coûteux et chronophage que de faire appel à des acteurs pour filmer à nouveau.

Contenu « super » personnalisé

Deepfake ouvrira une nouvelle ère de contenus et de campagnes personnalisés. Grâce à cette technologie, les marques pourront facilement adapter leurs vidéos et images aux expériences, aux centres d'intérêt et aux caractéristiques de leurs clients cibles, comme leur couleur de peau. Si le producteur cible différents groupes de clients, comme les groupes défavorisés ou les personnes d'origines ethniques différentes de l'ambassadeur ou du mannequin, Deepfake l'aidera à surmonter cette limite. Deepfake sera également facile à utiliser si la marque a besoin d'une vidéo dans une langue totalement différente.

On peut dire que la technologie Deepfake peut apporter d’énormes changements dans la façon dont les films et les émissions sont filmés et présentés aux téléspectateurs.

Quels sont les dangers de l’utilisation de Deepfake ?

Malgré ses avantages, le deepfake est une technologie plus populaire auprès des cybercriminels et peut également être utilisée à des fins malveillantes. Il permet aux cybercriminels de créer facilement du contenu trompeur et de diffuser de fausses informations susceptibles d'influencer gravement l'opinion des internautes.

En réalité, il n’est pas facile pour les utilisateurs de détecter une image ou une vidéo Deepfake, donc la plupart des internautes peuvent être victimes de désinformation diffusée à l’aide de la technologie Deepfake.

Si l'on examine certaines des utilisations malveillantes du deepfake, on constate qu'il peut s'agir de modifier des images historiques et de créer de fausses informations. De plus, cette technologie peut servir à diffamer des entreprises ou même à influencer l'opinion publique sur certaines questions.

Les deepfakes peuvent être utilisés pour divers délits, comme discréditer une personne. Que se passerait-il si un logiciel de deepfake se propageait en ligne et que quelqu'un créait une vidéo pornographique de vous et la publiait sur Facebook ? Même s'il ne s'agit que d'une farce, une fois en ligne, il est impossible de contrôler sa diffusion et ses conséquences.

Dans de nombreux cas, le but de l’utilisation des Deepfakes n’est plus une blague, mais de discréditer, d’humilier, de harceler ou de jouer sale et de les utiliser dans le but de faire chanter les autres.

La pornographie n'est qu'un des nombreux problèmes posés par les deepfakes. Initialement présents principalement dans les vidéos pornographiques, les deepfakes commencent à se répandre dans le monde politique, avec le potentiel d'avoir un impact majeur dans la vie réelle.

Le 17 avril 2018, une vidéo est apparue en ligne montrant une personne ressemblant à l'ancien président américain Barack Obama critiquant grossièrement l'actuel président Donald Trump. Bien que le public ait découvert plus tard que la vidéo était fausse, elle est rapidement devenue virale et a eu des conséquences fâcheuses.

Les experts craignent que la technologie Deepfake n'impacte les activités d'une entreprise, ne porte atteinte à la réputation d'une personne influente ou ne provoque une instabilité politique, notamment en période électorale. Il serait terrible qu'une vidéo Deepfake apparaisse soudainement en ligne montrant un candidat à la présidentielle agressant des enfants, un chef de police incitant ses employés à commettre des actes de violence contre des minorités ethniques, ou des soldats commettant des atrocités en temps de guerre…

Des personnalités telles que des hommes politiques et des chefs d'entreprise risquent d'être victimes de fausses vidéos. Même des femmes ordinaires peuvent être la cible de personnes malveillantes utilisant cette technologie pour créer de fausses vidéos pornographiques et de nudité, ce qui peut porter atteinte à leur honneur et à leur dignité. Une fois ces vidéos diffusées sur Internet, il est quasiment impossible de les arrêter. De plus, il est très difficile de distinguer l'authenticité de ces contenus de la fausseté.

De toute évidence, le Deepfake est devenu un problème mondial, laissant de nombreuses personnes dans des situations difficiles après la diffusion de fausses vidéos sur Internet.

En résumé, outre les avantages que la technologie Deepfake peut apporter dans de nombreux domaines tels que les médias, le divertissement, les jeux, etc., elle peut également être utilisée pour commettre des fraudes sur Internet et diffuser de fausses informations. Par conséquent, les organismes de gestion doivent prendre des mesures appropriées pour prévenir l'utilisation abusive de cette technologie.

Référence

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake