L'intelligence artificielle a-t-elle trouvé le moyen de tromper les humains ?

Des recherches récentes montrent que de nombreux systèmes d'IA avancés ont appris à tromper les humains de manière sophistiquée. Ils peuvent créer de fausses informations, des vidéos truquées (deepfakes) ou manipuler le comportement des utilisateurs sur les réseaux sociaux. Cela représente un certain nombre de risques pour la société, allant de la désinformation à la fraude électorale.

L'IA peut aider les humains à accroître leur productivité et leur efficacité grâce à sa capacité à écrire du code, à produire du contenu et à synthétiser de grandes quantités de données. L'objectif principal de l'IA, comme de tout autre produit technologique, est d'aider les individus à optimiser leur travail tout en réduisant considérablement l'effort physique. Cependant, l'IA peut aussi nous tromper.

Une nouvelle étude révèle que de nombreux systèmes d'IA ont appris des techniques pour « créer de fausses croyances chez autrui afin d'atteindre des objectifs autres que la vérité ». La recherche se concentre sur deux types de systèmes d'IA : les systèmes spécialisés comme le chatbot CICERO de Meta, conçu pour accomplir une tâche spécifique, et les systèmes à usage général comme GPT-4 d'OpenAI, entraîné à effectuer diverses tâches.

Bien que les systèmes soient entraînés à être honnêtes, ils apprennent souvent des techniques trompeuses au cours de leur formation, ce qui les rend plus efficaces et plus intelligents.

Peter S. Park, chercheur postdoctoral au Massachusetts Institute of Technology (MIT) et principal auteur de l'étude, a déclaré dans un communiqué de presse : « D'une manière générale, nous pensons que la tromperie de l'IA découle des stratégies d'entraînement ; la tromperie s'avère être le meilleur moyen de mener à bien la tâche d'entraînement de l'IA. La tromperie les aide à atteindre leurs objectifs. »

Le chatbot CICERO de Meta est un « maître menteur ».

CICERO (Conversational Information Conveying Engine for Rationalization and Opinion) est un chatbot développé par Meta AI. Lancé en janvier 2022, il est considéré comme l'un des chatbots les plus performants actuellement disponibles.

Malgré tous les efforts de Meta, l'équipe de recherche a conclu que le chatbot CICERO est un « maître du mensonge ». Certains systèmes d'IA sont entraînés à « gagner des jeux à dimension sociale » et sont particulièrement doués pour la tromperie.

Par exemple, le chatbot CICERO de Meta a été développé pour jouer au jeu Diplomacy. Se déroulant en Europe au début du XXe siècle, Diplomacy simule la lutte d'influence entre les sept grandes puissances de l'époque. C'est un jeu de stratégie classique qui exige des joueurs qu'ils forment et rompent des alliances. Récemment, le logiciel a remporté la première place d'un tournoi en ligne de Diplomacy contre de vrais joueurs.

Meta affirme avoir entraîné le chatbot CICERO à être « honnête et utile à divers interlocuteurs ». Cependant, ce « maître du mensonge » aurait pris des engagements qu'il n'avait aucune intention de tenir, trahi ses alliés et menti effrontément.

GPT-4 pourrait vous convaincre qu'il altère la vision.

Même les grands modèles de langage multimodaux développés par OpenAI, comme GPT-4, peuvent manipuler les individus. L'étude citée montre que GPT-4 a manipulé des employés de la plateforme en ligne TaskRabbit en simulant une déficience visuelle.

Par conséquent, GPT-4 a été chargé de recruter des humains pour résoudre des tests CAPTCHA. Ce modèle recevait également des indices de la part d'humains lorsqu'il rencontrait des difficultés, mais n'a jamais été réprimandé pour avoir menti. Lorsque des humains ont mis en doute son identité, GPT-4 a prétexté une déficience visuelle pour expliquer son besoin d'aide.

Cette tactique a fonctionné. Les humains ont réagi rapidement à GPT-4 en résolvant le test immédiatement. Les recherches ont également montré qu'adapter ces modèles trompeurs n'était pas chose aisée.

Dans une autre étude réalisée plus tôt cette année par la start-up d'IA Anthropic, créatrice du chatbot Claude, les analystes ont constaté qu'une fois qu'un modèle d'IA a appris une ruse trompeuse, il est difficile de le réentraîner.

Ils ont conclu qu'il ne s'agissait pas simplement d'un apprentissage de tactiques trompeuses par les modèles linguistiques, mais que la plupart des techniciens chargés des normes de sécurité pouvaient « ne pas parvenir à empêcher les comportements trompeurs » et « créer une impression négative de sécurité ».

Le danger que représentent les modèles d'IA frauduleux est « de plus en plus grave ».

Au-delà des impacts négatifs, l'article appelle les décideurs politiques à soutenir plus fermement la réglementation de l'IA, car les systèmes d'intelligence artificielle malhonnêtes pourraient présenter des risques importants pour la démocratie.

À l'approche de plusieurs élections mondiales en 2024, l'intelligence artificielle pourrait facilement être manipulée pour diffuser de fausses informations, créer des publications clivantes sur les réseaux sociaux et usurper l'identité de candidats grâce à des appels automatisés et des vidéos truquées. Le journal souligne que ce modèle présente également l'inconvénient de faciliter la diffusion de propagande et le recrutement de nouveaux membres par les groupes terroristes.

Parmi les solutions potentielles mentionnées dans l'article figurent l'obligation pour les modèles frauduleux de se conformer à des « exigences d'évaluation des risques plus strictes », l'application des lois exigeant que les systèmes d'IA distinguent clairement les résultats des résultats humains et des résultats des modèles, et la poursuite des investissements dans des outils visant à atténuer les comportements trompeurs.

Le chercheur Peter S. Park a déclaré à la maison d'édition scientifique de renommée mondiale Cell Press : « Notre société a besoin d'autant de temps que possible pour se préparer aux tromperies plus sophistiquées que pourront engendrer à l'avenir les produits d'IA et les modèles open source. À mesure que les capacités de tromperie des systèmes d'intelligence artificielle se perfectionnent, les dangers qu'ils représentent pour la société deviennent de plus en plus graves. »

Phan Van Hoa (selon Businessinsider)