5 conseils pour vous aider à détecter les faux contenus créés par l'IA.

Face à l'essor fulgurant de l'IA, distinguer le vrai du faux en ligne devient de plus en plus complexe. Outre la prolifération des images fixes, les vidéos générées par IA connaissent également une forte croissance grâce à des outils comme Sora d'OpenAI et Veo de Google. Dès lors, identifier la vérité parmi les fictions représente un véritable défi.

Actuellement, les logiciels de détection de fausses vidéos générées par l'IA sont limités, à l'exception des outils dédiés à la détection des deepfakes. De ce fait, la plupart d'entre nous devons nous fier à notre sens de l'observation et à notre intuition. Voici quelques indices importants permettant d'identifier une fausse vidéo générée par l'IA.

1. Les fausses vidéos créées par l'IA ne respectent souvent pas les lois de la physique.

Un moyen simple de repérer une vidéo truquée générée par IA est de vérifier si elle respecte les lois de la physique. Dans la réalité, le verre ne flotte pas, les liquides ne peuvent pas traverser les solides, mais avec Sora d'OpenAI, ces phénomènes illogiques sont possibles.

OpenAI reconnaît elle-même que Sora n'a pas simulé avec précision des interactions fondamentales comme le bris de verre. Lors du visionnage de vidéos, observez attentivement l'action principale ainsi que les détails en arrière-plan afin de détecter d'éventuelles anomalies.

Parallèlement, faites confiance à votre intuition. Si quelque chose vous paraît « bizarre », même si c’est difficile à exprimer, cela pourrait indiquer que la vidéo a été créée par une IA.

2. Observez attentivement le monde qui vous entoure.

La réaction du monde environnant est également un indicateur important pour les vidéos d'IA. Dans la réalité, si l'on croque dans une pomme, celle-ci devrait disparaître, mais dans le monde de Sora, ce n'est pas forcément le cas.

OpenAI reconnaît que des interactions comme manger ne produisent pas toujours les changements d'état attendus pour l'objet. Par conséquent, lors du visionnage de vidéos, il est important d'observer non seulement l'action, mais aussi la réaction qui l'accompagne, c'est-à-dire les conséquences physiques, les modifications de l'environnement ou de l'objet lui-même.

Par exemple, une personne marche sur du sable mais ne laisse aucune nouvelle empreinte, ou de l'eau est renversée sur le sol mais la surface reste sèche sans aucune tache.

3. Vérifiez s'il y a quelque chose d'inhabituel dans la vidéo.

Vous est-il déjà arrivé de regarder une vidéo et d'avoir l'impression que « quelque chose cloche », sans pouvoir dire exactement quoi ? C'est une expérience courante lorsqu'on regarde des vidéos générées par l'IA.

Les anomalies peuvent être évidentes, mais parfois il ne s'agit que d'un détail fugace et subtil, suffisant pour vous faire marquer une pause et vous demander : « À quel moment me suis-je senti mal à l'aise ? » Ce sont ces petits détails qui révèlent souvent les incohérences dans la logique du monde virtuel créé par l'IA.

Par exemple, dans un extrait vidéo, on voit une main peindre avec application une branche de cerisier en fleurs. Le pinceau se déplace continuellement, la peinture prend forme progressivement, mais étrangement, les couleurs des coups de pinceau changent soudainement, alors même que le pinceau n'a jamais été trempé à nouveau dans la palette. C'est un parfait exemple d'« erreurs subtiles » que les spectateurs doivent être attentifs pour remarquer.

4. Essayez d'« inverser » le processus en recréant la vidéo.

Une autre approche pour aider les utilisateurs à évaluer l'authenticité des vidéos générées par l'IA consiste à tenter une « osmose inverse » en recréant la vidéo.

Les adeptes de Midjourney, un outil de création d'images par synthèse vocale, ont expérimenté une méthode de « synchronisation inversée ». Ils ont observé attentivement des vidéos créées par Sora, puis ont rédigé des descriptions ressemblant fortement aux séquences originales et les ont intégrées à Midjourney pour créer des images fixes.

Les résultats montrent que, dans de nombreux cas, les vidéos de Sora sont presque entièrement des « images animées de Midjourney ». Cela démontre une forte corrélation entre les schémas de création d'images et de vidéos et soulève des questions quant aux véritables capacités créatives de Sora.

Pour solliciter davantage vos sens lors de l'analyse d'une vidéo, vous pouvez également procéder de manière similaire. Imaginez une description qui, selon vous, pourrait correspondre à la séquence, puis saisissez-la dans un outil de conversion texte-image afin de vérifier le degré de similarité.

Ensuite, effectuez une recherche sur Google pour déterminer si la vidéo provient de données publiques. Cette méthode n'est pas infaillible, mais elle constitue un bon point de départ pour distinguer une vidéo authentique d'une production générée par intelligence artificielle.

5. Soyez toujours vigilant et tenez-vous au courant des connaissances technologiques.

La technologie d'IA permettant de créer des vidéos à partir de texte n'en est qu'à ses débuts, mais son développement est incroyablement rapide. En peu de temps, les modèles d'IA ont été capables de créer des vidéos d'une grande précision, rendant difficile pour les spectateurs de distinguer le vrai du faux.

Cela signifie que le risque d'être trompé par du contenu généré par l'IA augmente. La meilleure façon d'éviter d'en être victime est d'apprendre à évoluer avec la technologie, c'est-à-dire de mettre à jour constamment ses connaissances, de se tenir au courant des nouveaux outils et de perfectionner ses compétences en analyse d'images et de sons.