Test de « Nano Banana Pro » : les outils de reconnaissance par IA sont impuissants face aux photos retouchées.
Une étude menée en conditions réelles sur six des principaux outils de reconnaissance par IA a révélé un défaut majeur : ces algorithmes sont facilement trompés par des opérations de retouche d’image basiques.
Face à l'essor des deepfakes et des images générées par l'IA, les outils de reconnaissance faciale sont censés protéger la vérité. Or, une expérience récente, baptisée « Nano Banana Pro », a révélé une réalité inquiétante : les logiciels de reconnaissance faciale actuels pourraient se révéler inefficaces face à de simples techniques de manipulation.
L'incompétence de 6 outils de reconnaissance d'IA de pointe
Des experts ont mené un test en conditions réelles en soumettant une image générée par intelligence artificielle, appelée « Nano Banana Pro », à six des outils de détection de contenu artificiel les plus populaires. Les résultats ont montré que la précision de ces outils était considérablement réduite face à des modifications techniques intentionnelles.
L'image originale, créée par une IA avec un niveau de détail élevé, représentait une femme tenant une banane. Certains outils auraient pu initialement déceler son origine artificielle. Cependant, un post-traitement avec un logiciel de retouche standard a complètement transformé le résultat.
Une astuce simple pour « aveugler » l'algorithme.
D'après le rapport de test, l'utilisation de logiciels de retouche d'images courants comme CyberLink PhotoDirector pour manipuler des fichiers s'est avérée remarquablement efficace pour dissimuler les traces d'IA. Des opérations basiques telles que la modification du contraste, l'application de filtres ou l'enregistrement des fichiers dans un format différent ont réduit le taux de détection des outils d'analyse à un niveau quasi nul.
La raison principale réside dans le fonctionnement des outils de détection d'IA. La plupart s'appuient sur l'analyse des « artefacts » caractéristiques laissés par les algorithmes d'IA dans la structure des pixels. Lorsqu'une image est modifiée manuellement, ces structures de pixels sont brouillées ou écrasées par les algorithmes des logiciels de retouche d'image classiques, effaçant ainsi les « empreintes » techniques de l'IA.
Les défis de la lutte contre les deepfakes
Les résultats du test Nano Banana Pro soulèvent de sérieuses questions quant à l'efficacité des solutions de cybersécurité actuelles. Les outils de détection étant facilement contournables en quelques clics, le risque de diffusion de fausses informations et de contenus frauduleux ne fera que s'accroître.
Cette réalité démontre que la technologie de détection par IA est encore en retard sur ses propres capacités de création de contenu. Pour lutter contre les deepfakes, l'industrie technologique a probablement besoin de solutions plus complètes que la simple analyse des pixels, comme la vérification de la source dès la création de l'image (provenance) ou l'utilisation de signatures numériques immuables.
Conclusion de l'expérience
Cette expérience sert non seulement d'avertissement aux développeurs de logiciels, mais aussi de leçon de vigilance aux internautes. À une époque où la frontière entre réalité et virtualité s'estompe de plus en plus, un sain scepticisme et la vérification de sources multiples demeurent les outils les plus efficaces pour se protéger de la désinformation.
