5 dangers potentiels lorsque vous fournissez des informations personnelles à des chatbots IA

Il ne fait aucun doute que l'IA révolutionne le monde. L'explosion des grands modèles de langage (LLM), notamment depuis le lancement de ChatGPT d'OpenAI fin 2022, a fait de l'IA un outil familier pour des centaines de millions d'utilisateurs.

Grâce à leur capacité à accompagner, suggérer et même accompagner dans de nombreuses situations, les chatbots IA sont rapidement utilisés non seulement pour rechercher des informations ou du travail, mais aussi comme « compagnon ».

De plus en plus de personnes partagent des aspects privés de leur vie, y compris des données sensibles, avec l'IA. Mais, comme sur les réseaux sociaux, révéler trop d'informations peut avoir des conséquences imprévues. Voici cinq raisons d'être prudent.

1. Les fuites de données constituent une menace pour la sécurité

Les violations de données ne constituent pas seulement un risque technologique, mais aussi une menace directe pour la vie privée et la sécurité des personnes. De fait, la cybersécurité est l'un des secteurs de l'économie numérique qui connaît la croissance la plus rapide, les dommages étant de plus en plus graves.

Selon le FBI (Federal Bureau of Investigation) des États-Unis, rien qu'en 2024, les incidents liés à la cybercriminalité ont causé des pertes de plus de 16 milliards de dollars, soit une hausse de 33 % par rapport à l'année précédente. La fraude en ligne et les violations de données personnelles figuraient parmi les trois types de criminalité les plus courants.

Il est inquiétant de constater que seulement 24 % environ des initiatives d’IA générative sont entièrement protégées contre les cyberattaques, ce qui expose les utilisateurs à un risque élevé s’ils partagent des informations trop librement.

En fait, il y a eu de nombreuses fuites de données, comme celle de ChatGPT impliquée dans une fuite de données en mai 2023, qui a exposé des informations sensibles de près de 100 000 utilisateurs et a forcé la plateforme à suspendre temporairement ses opérations.

La même année, un groupe de journalistes du New York Times a découvert que leurs informations personnelles avaient été divulguées lors d'un test. Ces incidents nous rappellent brutalement que l'envoi de données personnelles identifiables à des chatbots IA n'est jamais une option sûre.

2. Deepfake peut devenir un outil d'escroquerie par usurpation d'identité

Partager des informations personnelles avec des outils d'IA augmente non seulement le risque de fuite de données, mais ouvre également la voie à une menace plus sophistiquée : la fraude par deepfake. De nos jours, de nombreuses personnes téléchargent régulièrement leurs photos vers des services de retouche d'images par IA, de l'embellissement à la création d'images entièrement nouvelles, sans se soucier des conséquences.

Cette commodité fournit par inadvertance de la matière première aux méchants pour créer des deepfakes, des images ou des vidéos manipulées numériquement qui donnent l’impression qu’un personnage fait ou dit quelque chose qui ne s’est jamais produit.

Cette technologie est de plus en plus difficile à détecter et peut tromper aussi bien les utilisateurs lambda que les systèmes de vérification de base. Par conséquent, les cybercriminels peuvent facilement l'exploiter pour usurper une identité, frauder, faire chanter ou porter gravement atteinte à la réputation d'une personne.

Si les deepfakes entièrement créés à partir de données personnelles identifiables restent rares, la capacité à recréer des voix et des images saisissantes à partir de données divulguées est devenue une menace existentielle. Ce danger est particulièrement grand lorsque les données privées des utilisateurs tombent entre de mauvaises mains, ouvrant la voie à des fraudes de plus en plus difficiles à contrôler.

3. Les chatbots IA se souviennent de plus de choses que vous ne le pensez

L'une des règles tacites de l'ère numérique est qu'« Internet n'oublie jamais ». Cela s'applique non seulement aux recherches Google et aux publications sur les réseaux sociaux, mais aussi aux conversations avec les chatbots IA.

Beaucoup pensent qu'en appuyant sur « Supprimer », les données disparaissent définitivement. Cependant, la réalité est bien plus complexe. Par exemple, OpenAI indique que les conversations ChatGPT ne sont définitivement supprimées du système que dans les 30 jours suivant la suppression complète du compte par l'utilisateur. Pour ceux qui continuent d'utiliser ChatGPT, certaines conversations ne peuvent pas être supprimées définitivement de l'historique.

Une étude de l'Université de Caroline du Nord (États-Unis) montre que la suppression de données de grands modèles linguistiques est possible, mais quasiment impossible à vérifier avec certitude. Cela signifie que les chatbots sont capables de mémoriser bien plus de données que les utilisateurs ne le pensent.

Lorsque les informations personnelles sont conservées à long terme, les risques augmentent considérablement en cas de violation de données, de cyberattaque ciblée ou simplement de changement de politique du fournisseur de services. Dans de tels cas, les conséquences pour les utilisateurs peuvent être extrêmement graves.

4. Fournir des données permettant aux chatbots d'IA d'apprendre peut porter atteinte à vos droits de propriété intellectuelle.

Les systèmes d'IA modernes reposent sur des algorithmes d'apprentissage automatique, qui s'appuient sur des millions d'ensembles de données pour identifier des tendances et générer des réponses appropriées. Il est important de noter que ce processus d'apprentissage ne s'arrête pas une fois l'IA déployée, et que les données utilisateur recueillies lors des conversations, des interactions ou des téléchargements de contenu peuvent devenir la matière première du modèle pour son amélioration continue.

Cela signifie que toute information que vous fournissez, même involontairement, peut potentiellement être utilisée pour entraîner l'IA. Fin 2024, le réseau social LinkedIn a essuyé une vague de critiques après avoir admis utiliser les données des utilisateurs pour entraîner des outils d'IA. Suite à ce tollé, l'entreprise a été contrainte d'ajouter une option permettant aux utilisateurs de se désinscrire, mais en réalité, très peu de personnes sont au courant ou s'adaptent activement.

LinkedIn ne fait pas exception. Meta exploite également les données de Facebook et Instagram, tandis qu'Amazon utilise les conversations avec Alexa pour développer ses modèles. Les conséquences peuvent entraîner de graves violations de propriété intellectuelle, les œuvres générées par l'IA portant parfois une trop grande empreinte personnelle des auteurs et des artistes, les exposant au risque d'être « copiées » directement sur la plateforme numérique. Ce phénomène est à l'origine de nombreux recours collectifs et d'une vague de protestations de la part de la communauté créative.

5. Les chatbots IA peuvent utiliser vos informations personnelles contre vous

Les risques liés au partage de données personnelles avec l'IA vont au-delà de la violation de la propriété intellectuelle : ils incluent le risque de biais dans les grands modèles linguistiques. Étant entraînés sur d'importants volumes de données, ces outils sont susceptibles d'absorber des biais sociaux, ce qui peut conduire à des décisions ou des recommandations discriminatoires.

Le Centre sur la confidentialité et la technologie de l'Université de Georgetown estime que la moitié des adultes américains ont des images dans les bases de données de reconnaissance faciale des forces de l'ordre.

Parallèlement, les Afro-Américains représentent près de 40 % de la population carcérale. Lorsque ces données sont intégrées aux systèmes d'IA, les algorithmes sont sujets à des biais dans l'identification des suspects ou dans l'association d'un visage à une description textuelle ou visuelle.

Les risques ne se limitent pas à la sécurité : la technologie de l’IA est également appliquée à la sélection des candidats à un emploi, à l’approbation de prêts ou à la location de maisons, et peut refléter complètement les préjugés cachés.

Amazon a été contraint d'arrêter son système de recrutement automatisé en 2015 après avoir découvert des préjugés sexistes. Cela montre que, même s'il est difficile pour les individus de contrôler les données d'entraînement de l'IA, la prudence dans le partage d'informations reste un moyen nécessaire de se protéger des biais technologiques.