5 conseils pour détecter les faux contenus générés par l'IA

Alors que l'IA progresse à une vitesse fulgurante, il devient de plus en plus difficile de distinguer le vrai du faux en ligne. Les images fixes, comme les vidéos générées par l'IA, connaissent un essor fulgurant grâce à des outils comme Sora d'OpenAI et Veo de Google. Il devient alors extrêmement difficile de distinguer le vrai du faux.

Actuellement, les logiciels de détection de vidéos générées par l'IA sont limités, à l'exception de ceux dédiés à la détection des deepfakes. Nous devons donc nous fier en grande partie à notre sens de l'observation et à notre perspicacité. Voici quelques signes clés qui peuvent aider à reconnaître une fausse vidéo générée par l'IA.

1. Les fausses vidéos générées par l'IA ne respectent souvent pas les lois de la physique

L'un des moyens les plus simples de repérer une fausse vidéo générée par l'IA est de vérifier si elle obéit aux lois de la physique. Dans le monde réel, les verres ne lévitent pas, les liquides ne traversent pas les objets solides, mais avec Sora d'OpenAI, ces absurdités peuvent se produire.

Même OpenAI admet que Sora ne simule pas avec précision les interactions de base comme le verre brisé. Lorsque vous regardez des vidéos, soyez attentif à l'action principale et aux détails de l'arrière-plan pour repérer toute anomalie.

Écoutez également votre intuition. Si quelque chose vous semble étrange, même si vous n'arrivez pas à l'exprimer avec des mots, cela pourrait indiquer que la vidéo a été générée par l'IA.

2. Observez attentivement les réactions du monde qui vous entoure.

La réaction du monde environnant est également un signe important pour reconnaître les vidéos d'IA. Dans la vraie vie, croquer une pomme devrait la faire disparaître, mais dans le monde de Sora, ce n'est pas forcément le cas.

OpenAI reconnaît que des interactions comme manger ne produisent parfois pas exactement les mêmes changements d'état de l'objet. Ainsi, lorsque vous regardez une vidéo, vous devez prêter attention non seulement à l'action, mais aussi à la réaction qui l'accompagne, c'est-à-dire aux conséquences physiques, aux modifications de l'environnement ou de l'objet.

Par exemple, une personne marche sur du sable mais ne laisse aucune nouvelle empreinte ou de l’eau est renversée sur le sol mais le sol reste sec sans aucune tache.

3. Voyez-vous quelque chose d’inhabituel dans la vidéo ?

Avez-vous déjà regardé une vidéo et senti que quelque chose clochait, sans pouvoir immédiatement mettre le doigt dessus ? C’est une expérience courante lorsqu’on regarde des vidéos générées par l’IA.

Les anomalies peuvent être évidentes, mais il s'agit parfois d'un simple détail fugace et vague qui vous oblige à vous interroger : « Quel moment m'a mis mal à l'aise ? » Ce sont ces petits détails qui révèlent souvent des incohérences dans la logique de fonctionnement du monde virtuel construit par l'IA.

Par exemple, dans une vidéo, on voit une main humaine peindre soigneusement une branche de cerisier en fleurs. Les coups de pinceau se déplacent continuellement, la peinture apparaît progressivement, mais curieusement, la couleur des coups de pinceau change soudainement, alors même que le pinceau n'a jamais été replongé dans la palette. C'est un exemple typique d'« erreurs subtiles » que le spectateur doit être attentif à repérer.

4. Essayez le « traçage inversé » en recréant la vidéo

Une autre approche pour aider les utilisateurs à évaluer l’authenticité des vidéos générées par l’IA consiste à essayer de « revenir en arrière » en recréant la vidéo.

Les passionnés du générateur d'images-textes Midjourney ont expérimenté une approche de « traçage inversé ». Ils observent attentivement les vidéos générées par Sora, puis réécrivent des descriptions proches des images originales et les intègrent à l'outil Midjourney pour créer des images fixes.

Les résultats montrent que, dans de nombreux cas, les vidéos de Sora ne sont que des « photos animées de mi-parcours ». Cela illustre le lien étroit entre les modèles de génération d'images et de vidéos, et soulève des questions sur le véritable niveau de créativité de Sora.

Si vous souhaitez exploiter davantage vos sens lors de l'analyse d'une vidéo, vous pouvez essayer une approche similaire. Imaginez la description qui pourrait correspondre à la scène et utilisez un outil de conversion de texte en image pour vérifier sa similarité.

Ensuite, effectuez une recherche Google pour voir si la vidéo provient de données publiques. Cette méthode n'est pas parfaite, mais elle constitue une référence utile pour déterminer s'il s'agit d'une vidéo authentique ou d'une création d'IA.

5. Soyez toujours vigilant et mettez à jour vos connaissances technologiques

La technologie d'IA permettant de créer des vidéos à partir de texte en est encore à ses balbutiements, mais son développement est extrêmement rapide. En peu de temps, les modèles d'IA peuvent créer des vidéos extrêmement détaillées, difficiles à distinguer du vrai du faux.

Cela signifie que le risque d'être trompé par du contenu généré par l'IA augmente. La meilleure façon d'éviter d'en être victime est d'apprendre à évoluer avec la technologie, ce qui implique de constamment mettre à jour ses connaissances, de surveiller les nouveaux outils et de perfectionner ses compétences en analyse d'images et de sons.