Technologie deepfake : utile ou dangereuse ?

Nous vivons dans un monde de progrès technologiques. De nombreuses nouvelles technologies sont développées et appliquées au quotidien, notamment la technologie Deepfake.

À mesure que la technologie se perfectionne, les experts craignent qu'elle ne représente une menace sérieuse. Cependant, toute technologie a ses revers, et si l'on fait abstraction de son côté sombre, le deepfake est l'une des technologies les plus utiles, avec un potentiel de développement positif certain.

Qu'est-ce que la technologie Deepfake ?

Le terme « deepfake », contraction de « deep learning » et « fake », désigne une technologie qui simule les traits du visage humain et crée de faux contenus audio, visuels, voire vidéo. Les créateurs de deepfakes peuvent manipuler les médias et remplacer l'apparence d'une personne réelle par celle d'un individu réel.

La technologie Deepfake repose essentiellement sur la plateforme d'apprentissage automatique open source de Google. Elle analyse des vidéos et des photos de portrait d'une personne, puis les fusionne avec d'autres vidéos grâce à l'IA et remplace les détails du visage, comme les yeux, la bouche et le nez, par des mouvements faciaux et une voix réalistes. Plus le nombre d'images originales disponibles est important, plus l'IA dispose de données pour apprendre et créer des images ou des vidéos truquées de plus en plus réalistes. Deepfake peut ainsi superposer le visage d'une personne sur celui d'une autre dans une vidéo avec un réalisme saisissant.

Image illustrative

Comment fonctionne le deepfake ?

Les deepfakes utilisent deux algorithmes : un générateur de données pour créer des données d'apparence réaliste et un discriminateur de données pour tenter de distinguer les données générées des données réelles. Le générateur de données constitue un ensemble d'entraînement à partir du résultat souhaité, créant ainsi le contenu numérique falsifié initial, tandis que le discriminateur de données analyse le degré d'authenticité de la version originale du contenu.

Ce processus se répète, permettant au générateur de données d'améliorer la création de contenu proprement dite et au discriminateur de données de devenir plus performant dans la détection des erreurs à corriger.

La combinaison d'algorithmes de génération et de discrimination de données crée un réseau antagoniste génératif, également appelé GAN (Generative Adversarial Network). Les GAN utilisent l'apprentissage profond pour reconnaître des motifs dans des images réelles, puis exploitent ces motifs pour générer des images artificielles.

Lors de la création d'une image truquée (deepfake), un système GAN analyse les photos de la cible sous différents angles afin de capturer tous les détails et perspectives. Lors de la création d'une vidéo truquée (deepfake), le GAN analyse la vidéo sous de multiples angles, en étudiant simultanément les comportements, les mouvements et les intonations. Ces informations sont ensuite traitées à plusieurs reprises par un discriminateur de données pour affiner l'authenticité de l'image ou de la vidéo, créant ainsi une version truquée parfaitement identique à l'originale.

Quels sont les avantages du deepfake ?

La technologie deepfake permet aux créateurs de produire du contenu réaliste pour les spectateurs, et ce, de manière plus créative. Elle leur permet non seulement d'expérimenter la création de films réalistes, mais aussi d'améliorer la qualité des jeux vidéo et autres contenus multimédias.

La technologie avancée du deepfake est très prometteuse dans de nombreux domaines, notamment dans les industries créatives comme le cinéma et la publicité. Les campagnes publicitaires et les productions cinématographiques peuvent utiliser le deepfake pour les voix off, le tournage de scènes complexes, ce qui permet de gagner du temps et de réduire les budgets de production. Le deepfake est également perçu comme une forme de divertissement sur Internet, permettant aux utilisateurs d'échanger facilement leur visage avec celui de célébrités. Cette technologie est aussi en cours de développement pour permettre aux acheteurs en ligne d'essayer des vêtements dans des cabines d'essayage virtuelles.

Les experts en technologie estiment que, utilisée à des fins positives, la technologie Deepfake constituera un puissant outil marketing. Grâce à sa capacité à manipuler les images automatiquement et avec précision, elle apportera de nombreux avantages au secteur du marketing, notamment :

Économies de coûts

Dans certains cas, le recours à des acteurs humains est superflu. Dès lors, le deepfake peut constituer une solution innovante : les producteurs acquièrent une licence pour utiliser les images des acteurs, créent ou réutilisent une vidéo publicitaire existante, puis y intègrent les images et dialogues appropriés afin de créer un produit publicitaire entièrement nouveau. Ils peuvent même réaliser des économies supplémentaires en confiant la création de la vidéo à leurs équipes internes. En bref, le deepfake s'avérera extrêmement utile pour les marketeurs disposant de budgets limités, mais souhaitant néanmoins produire un contenu de haute qualité pour leurs campagnes.

Marketing multicanal facile

Comme aucun acteur n'est utilisé, les marques peuvent facilement adapter leurs vidéos aux spécificités de chaque canal marketing. Par exemple, un même visage peut apparaître à l'écran sur plusieurs plateformes, comme YouTube, TikTok ou Instagram Reels. De plus, ce procédé est bien moins coûteux et rapide que de faire appel à des acteurs pour refaire les scènes.

contenu « ultra » personnalisé

Le deepfake va inaugurer une nouvelle ère pour la personnalisation des contenus et des campagnes. Grâce à cette technologie, les marques pourront facilement adapter leurs vidéos et images aux expériences, préférences et caractéristiques de leurs clients cibles, comme leur couleur de peau. Si les producteurs ciblent différents groupes de clients, tels que des groupes marginalisés ou des groupes ethniques différents de leurs ambassadeurs ou mannequins, le deepfake leur permettra de surmonter cette limitation. Il deviendra même possible de créer une vidéo dans une langue totalement différente grâce au deepfake.

On peut affirmer sans risque de se tromper que la technologie Deepfake pourrait engendrer un changement considérable dans la manière dont les films et les séries sont filmés et présentés aux spectateurs.

Quels sont les dangers liés à l'utilisation des deepfakes ?

Malgré ses applications positives, la technologie Deepfake est surtout répandue chez les cybercriminels et peut également être utilisée à des fins malveillantes. Elle leur permet de créer facilement des contenus trompeurs et de diffuser de la désinformation susceptible d'influencer gravement le public.

En réalité, les utilisateurs ne détectent pas facilement une image ou une vidéo truquée (Deepfake), de sorte que la plupart des internautes peuvent facilement être victimes de désinformation diffusée à l'aide de la technologie Deepfake.

Si l'on considère les utilisations malveillantes possibles des deepfakes, on peut citer la modification d'images d'archives et la création de fausses informations. De plus, cette technologie peut servir à diffamer des entreprises, voire à influencer l'opinion publique sur certains sujets.

Les deepfakes peuvent servir à commettre divers crimes, comme discréditer une personne. Que se passe-t-il lorsqu'un logiciel de deepfake se propage en ligne et que quelqu'un crée une vidéo pornographique vous concernant et la publie sur Facebook ? Même s'il ne s'agit que d'une blague, une fois en ligne, il est impossible de contrôler sa diffusion et ses conséquences.

Dans de nombreux cas, l'utilisation des deepfakes n'est plus une plaisanterie, mais vise plutôt à discréditer, humilier, harceler ou saboter autrui, et à lui extorquer de l'argent.

Les contenus pornographiques ne sont qu'un des nombreux problèmes soulevés par les deepfakes. Apparus initialement dans les vidéos pornographiques, les deepfakes commencent à se répandre dans la sphère politique, avec des conséquences concrètes importantes.

Le 17 avril 2018, une vidéo a circulé en ligne montrant une personne ressemblant à l'ancien président américain Barack Obama utilisant un langage injurieux pour critiquer le président sortant Donald Trump. Bien que le public ait découvert par la suite que la vidéo était un montage, elle s'est propagée rapidement et a eu des conséquences regrettables.

Les experts craignent que la technologie Deepfake puisse nuire aux activités d'une entreprise, ruiner la réputation d'une personnalité publique et engendrer une instabilité politique, notamment en période électorale. Il serait catastrophique qu'une vidéo Deepfake apparaisse soudainement en ligne, montrant un candidat à la présidence harcelant des enfants, un chef de police incitant ses agents à la violence contre les minorités ethniques ou des soldats commettant des atrocités en temps de guerre…

Les personnalités publiques, comme les politiciens et les chefs d'entreprise, sont particulièrement vulnérables aux attaques par le biais de fausses vidéos. Même des femmes ordinaires peuvent être ciblées par des individus malveillants qui utilisent cette technologie pour créer de fausses vidéos pornographiques ou de nudité, portant ainsi atteinte à leur honneur et à leur dignité. Une fois qu'une vidéo est diffusée en ligne, il est quasiment impossible de l'arrêter. De plus, il est très difficile de vérifier l'authenticité de ce contenu.

De toute évidence, les deepfakes sont devenus un problème mondial, plongeant de nombreuses personnes dans des situations difficiles après la diffusion de fausses vidéos en ligne.

En résumé, outre les avantages que la technologie Deepfake peut apporter dans de nombreux domaines tels que les médias, le divertissement et les jeux vidéo, elle peut également être utilisée à des fins de fraude en ligne et de diffusion de fausses informations. Par conséquent, les organismes de réglementation doivent prendre les mesures appropriées pour prévenir tout usage abusif de la technologie Deepfake.

Référence

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake