Technologie Deepfake : utile ou dangereuse ?

Nous vivons dans un monde de progrès technologiques. De nombreuses nouvelles technologies sont développées et appliquées au quotidien, notamment le deepfake.

À mesure que la technologie se perfectionne, les experts craignent qu'elle ne représente une menace sérieuse. Cependant, toute technologie a ses revers. Si l'on ignore son côté obscur, le deepfake est une technologie extrêmement utile et a le potentiel d'évoluer positivement à l'avenir.

Qu'est-ce que la technologie Deepfake ?

Deepfake est un terme créé par la combinaison de « Deep Learning » et de « Fake ». Il s'agit d'une technologie qui simule des images faciales humaines et crée de faux fichiers audio, images, voire vidéos. Les créateurs de deepfakes peuvent manipuler les médias et les remplacer par l'apparence d'une personne réelle.

Fondamentalement, la technologie Deepfake repose sur la plateforme d'apprentissage automatique open source de Google. Deepfake analyse la vidéo et le portrait d'une personne, puis les fusionne avec une vidéo distincte grâce à l'IA et remplace les détails du visage, tels que les yeux, la bouche et le nez, par des mouvements et des voix réels. Plus les images sont originales, plus l'IA doit assimiler de données pour créer des images ou des vidéos truquées plus réalistes. Deepfake peut associer le visage d'une personne à celui d'une autre dans une vidéo avec un réalisme incroyable.

Photo d'illustration

Comment fonctionne le deepfake ?

Deepfake utilise deux algorithmes : un générateur pour créer des données réalistes et un discriminateur pour distinguer les données générées par le générateur des données réelles. Le générateur construit un jeu de données d'entraînement basé sur le résultat souhaité, créant ainsi le faux contenu numérique initial, tandis que le discriminateur analyse le caractère réel ou fictif de la version originale du contenu.

Ce processus est répété, ce qui permet au générateur de données d’améliorer la création de contenu réelle et au discriminateur de données de devenir plus compétent pour repérer les erreurs à corriger.

La combinaison d'algorithmes de génération et de discrimination de données crée un réseau antagoniste génératif (GAN). Les GAN utilisent l'apprentissage profond pour reconnaître des modèles dans des images réelles et les exploiter pour générer de fausses images.

Lors de la création d'une photo deepfake, le système GAN visualise les photos de la cible sous différents angles afin d'en capturer tous les détails et perspectives. Lors de la création d'une vidéo deepfake, le GAN visualise la vidéo sous plusieurs angles et analyse son comportement, ses mouvements et sa voix. Ces informations sont ensuite analysées plusieurs fois par le discriminateur afin d'affiner l'authenticité de l'image ou de la vidéo et de créer une version truquée réaliste.

Quels sont les avantages du Deepfake ?

La technologie Deepfake permet aux créateurs de créer du contenu réaliste pour les spectateurs de manière plus créative. Cette technologie permet non seulement aux créateurs d'expérimenter la création de films réalistes, mais peut également être utilisée pour améliorer la qualité des jeux vidéo et autres contenus multimédias.

La technologie avancée derrière le Deepfake est très prometteuse dans de nombreux domaines, notamment dans les industries créatives comme le cinéma et la publicité. Les campagnes publicitaires et la réalisation cinématographique peuvent utiliser le Deepfake pour les voix off et les scènes difficiles à tourner, permettant ainsi de gagner du temps et de réduire le budget de production. Le Deepfake est également considéré comme un pur divertissement sur Internet, permettant aux utilisateurs de se mettre facilement en scène avec des personnages célèbres. Cette technologie est également développée pour permettre aux acheteurs en ligne d'essayer des vêtements dans des cabines d'essayage virtuelles.

Les experts en technologie estiment que, utilisé à des fins positives, le deepfake constituera un puissant outil marketing, capable de recadrer automatiquement et précisément les photos. Cette technologie apportera de nombreux avantages au secteur du marketing, notamment :

Économies de coûts

Dans certains cas, le recours à des acteurs humains n'est pas nécessaire. Le deepfake peut constituer une solution innovante lorsque les producteurs doivent simplement acheter une licence pour utiliser l'image de l'acteur, créer ou réutiliser une vidéo promotionnelle, puis insérer les images et les dialogues appropriés pour créer un produit publicitaire entièrement nouveau. Les producteurs peuvent même réaliser des économies en faisant appel à leur propre équipe interne pour la réalisation de la vidéo. En bref, le deepfake sera extrêmement utile aux marketeurs disposant de budgets limités, mais souhaitant néanmoins produire du contenu de haute qualité pour leurs campagnes.

Marketing multicanal facile

Comme il n'y a pas recours à de vrais acteurs, les marques peuvent facilement adapter leurs vidéos à la nature de chaque canal marketing. Par exemple, la marque peut utiliser le même visage pour l'intégrer à différentes plateformes, comme des vidéos publiées sur YouTube, TikTok ou des Reels sur Instagram… De plus, ce processus est moins coûteux et chronophage que de faire appel à des acteurs pour filmer à nouveau.

Contenu « super » personnalisé

Deepfake ouvrira une nouvelle ère de contenus et de campagnes personnalisés. Grâce à cette technologie, les marques pourront facilement adapter leurs vidéos et images aux expériences, aux centres d'intérêt et aux caractéristiques de leurs clients cibles, comme leur couleur de peau. Si le producteur cible des groupes de clients différents, comme des groupes défavorisés ou des groupes ethniques différents de l'ambassadeur ou du mannequin, Deepfake l'aidera à surmonter cette limite. Deepfake sera également très facile à utiliser si la marque a besoin d'une vidéo dans une langue totalement différente.

On peut dire que la technologie Deepfake peut apporter d’énormes changements dans la façon dont les films et les émissions sont filmés et présentés aux téléspectateurs.

Quels sont les dangers de l’utilisation de Deepfake ?

Malgré ses avantages, le deepfake est une technologie plus répandue auprès des cybercriminels et peut également être utilisée à des fins malveillantes. Il permet aux cybercriminels de créer facilement du contenu trompeur et de diffuser de fausses informations susceptibles d'affecter gravement l'opinion publique.

En réalité, il n’est pas facile pour les utilisateurs de détecter une image ou une vidéo Deepfake, donc la plupart des internautes peuvent être victimes de désinformation diffusée à l’aide de la technologie Deepfake.

Si l'on considère certaines des utilisations malveillantes du deepfake, on peut citer la modification d'images historiques et la création de fausses informations. De plus, cette technologie pourrait servir à diffamer des entreprises, voire à influencer l'opinion publique sur certains sujets.

Les deepfakes peuvent être utilisés pour divers délits, comme discréditer une personne. Que se passerait-il si un logiciel de deepfake se propageait en ligne et que quelqu'un créait une vidéo pornographique de vous et la publiait sur Facebook ? Même s'il ne s'agit que d'une farce, une fois en ligne, il est impossible de contrôler sa diffusion et ses conséquences.

Dans de nombreux cas, le but de l’utilisation de Deepfake n’est plus de plaisanter, mais de discréditer, d’humilier, de harceler ou de jouer sale et de l’utiliser dans le but de faire chanter les autres.

La pornographie n'est qu'un des nombreux problèmes posés par le deepfake. Initialement présent principalement dans les vidéos pornographiques, le deepfake commence à s'étendre au monde politique, avec le potentiel d'avoir un impact majeur dans la vie réelle.

Le 17 avril 2018, une vidéo est apparue en ligne montrant une personne ressemblant à l'ancien président américain Barack Obama proférant des propos injurieux à l'encontre du président actuel Donald Trump. Bien que le public ait ultérieurement découvert que la vidéo était fausse, elle s'est rapidement propagée et a eu des conséquences fâcheuses.

Les experts craignent que la technologie Deepfake n'impacte les activités d'une entreprise, ne porte atteinte à la réputation d'une personne influente et ne provoque une instabilité politique, notamment en période électorale. Il serait terrible qu'une vidéo Deepfake apparaisse soudainement en ligne montrant un candidat à la présidentielle agressant des enfants, un chef de police incitant ses employés à commettre des violences contre des minorités ethniques, ou des soldats commettant des atrocités en temps de guerre…

Des personnalités telles que des politiciens et des chefs d'entreprise risquent d'être victimes de fausses vidéos. Même des femmes ordinaires peuvent être la cible d'individus malveillants utilisant cette technologie pour créer de fausses vidéos pornographiques et de dénudage, ce qui peut nuire à leur réputation et à leur dignité. Une fois ces vidéos diffusées sur Internet, il est quasiment impossible de les arrêter. De plus, il est très difficile de distinguer l'authenticité de ces contenus de la fausseté.

De toute évidence, le Deepfake est devenu un problème mondial, laissant de nombreuses personnes dans des situations difficiles après la diffusion de fausses vidéos sur Internet.

En résumé, outre les avantages que la technologie Deepfake peut apporter dans de nombreux domaines tels que les médias, le divertissement, les jeux, etc., elle peut également être utilisée pour commettre des fraudes sur Internet et diffuser de fausses informations. Par conséquent, les organismes de gestion doivent prendre des mesures appropriées pour prévenir l'utilisation abusive de cette technologie.

Référence

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake