5 dangers potentiels liés à la communication d'informations personnelles aux outils de chatbot IA.
À l'ère de l'essor de l'intelligence artificielle (IA), les chatbots gagnent en popularité en tant qu'outils d'assistance intelligents. Cependant, le partage d'informations personnelles avec ces chatbots comporte de nombreux risques pour la sécurité, la confidentialité et la protection des données.
Nul ne doute que l'IA révolutionne le monde. L'essor des grands modèles de langage (LLM), notamment depuis le lancement de ChatGPT d'OpenAI fin 2022, a fait de l'IA un outil familier pour des centaines de millions d'utilisateurs.
Grâce à leur capacité à assister, suggérer et même accompagner dans diverses situations, les chatbots IA sont rapidement utilisés non seulement pour la recherche d'informations ou le travail, mais aussi comme « compagnon ».
De plus en plus de personnes partagent des aspects privés de leur vie, y compris des données sensibles, avec l'IA. Cependant, comme sur les réseaux sociaux, révéler trop d'informations peut avoir des conséquences imprévues. Voici cinq raisons pour lesquelles il convient d'être prudent.
1. Les fuites de données constituent une menace pour la sécurité.
Les fuites de données ne constituent pas seulement un risque technologique, mais aussi une menace directe pour la vie privée et la sécurité des personnes. De fait, la cybersécurité est devenue l'un des secteurs à la croissance la plus rapide de l'économie numérique, en raison de la gravité croissante des dommages.
D'après les données du FBI, les cyberattaques ont engendré, pour la seule année 2024, des pertes dépassant les 16 milliards de dollars, soit une hausse de 33 % par rapport à l'année précédente. La fraude en ligne et les violations de données figuraient parmi les trois types de cybercriminalité les plus fréquents.
De manière inquiétante, seulement 24 % environ des initiatives générées par l'IA sont correctement protégées contre les cyberattaques, ce qui expose les utilisateurs à un risque élevé s'ils partagent trop librement des informations.
En effet, de nombreuses fuites de données ont eu lieu, comme celle de ChatGPT en mai 2023, qui a exposé les informations sensibles de près de 100 000 utilisateurs et a contraint la plateforme à interrompre temporairement ses activités.
La même année, un groupe de journalistes du New York Times a découvert que leurs informations personnelles avaient fuité lors de tests. Ces incidents ont clairement démontré que transmettre des données personnelles à des chatbots d'IA n'est jamais une option sûre.
2. Les deepfakes peuvent devenir des outils facilitant les escroqueries par vol d'identité.
Partager des informations personnelles avec des outils d'IA augmente non seulement le risque de fuites de données, mais ouvre également la voie à une menace plus sophistiquée : les arnaques par deepfake. De nombreuses personnes téléchargent régulièrement leurs photos sur des services de retouche photo utilisant l'IA, que ce soit pour les embellir ou créer des images entièrement nouvelles, sans trop se soucier des conséquences.
Cette facilité d'utilisation fournit involontairement aux acteurs malveillants le matériel nécessaire pour créer des deepfakes, des images ou des vidéos manipulées numériquement qui donnent l'impression que des personnages font ou disent des choses qui ne se sont jamais produites.
Cette technologie est de plus en plus difficile à détecter et peut tromper aussi bien les utilisateurs ordinaires que les systèmes de vérification de base. De ce fait, les cybercriminels peuvent facilement l'exploiter pour usurper l'identité d'autrui, escroquer, extorquer ou nuire gravement à la réputation de personnes.
Bien que les deepfakes entièrement construits à partir de données personnelles ne soient pas encore courants, la capacité de recréer des voix et des images réalistes à partir de données divulguées représente une menace réelle. Ce phénomène est particulièrement dangereux lorsque les données privées des utilisateurs tombent entre de mauvaises mains, ouvrant la voie à des fraudes de plus en plus incontrôlables.
3. Les chatbots IA se souviennent de plus de choses que vous ne le pensez.
L'une des règles non écrites de l'ère numérique est que « l'internet n'oublie jamais ». Cela est vrai non seulement pour les recherches Google ou les publications sur les réseaux sociaux, mais aussi pour les conversations avec les chatbots dotés d'intelligence artificielle.
Beaucoup pensent qu'en cliquant sur « Supprimer », les données disparaissent définitivement. Or, la réalité est bien plus complexe. Par exemple, OpenAI précise que les conversations ChatGPT ne sont « définitivement » effacées du système que 30 jours après la suppression du compte de l'utilisateur. Pour ceux qui continuent d'utiliser l'application, certaines conversations ne peuvent pas être supprimées définitivement de leur historique.
Une étude de l'Université de Caroline du Nord (États-Unis) indique qu'il est possible d'effacer des données de grands modèles de langage, mais quasiment impossible de le vérifier avec certitude. Cela signifie que les chatbots sont susceptibles de se souvenir de plus d'informations que les utilisateurs ne le pensent.
Lorsque des informations personnelles sont conservées à long terme, les risques augmentent considérablement en cas de fuites de données, de cyberattaques ciblées ou de simples modifications de la politique du fournisseur de services. Dans de tels cas, les conséquences pour les utilisateurs peuvent être extrêmement graves.
4. Fournir des données aux chatbots d'IA pour qu'ils apprennent peut porter atteinte à vos droits de propriété intellectuelle.
Les systèmes d'IA modernes fonctionnent grâce à des algorithmes d'apprentissage automatique qui exploitent des millions d'ensembles de données pour identifier des tendances et générer des réponses pertinentes. Surtout, ce processus d'apprentissage ne s'arrête pas au déploiement de l'IA : les données utilisateur collectées lors des conversations, des interactions ou des mises en ligne de contenu peuvent continuer à servir de « matière première » pour l'amélioration continue du modèle.
Cela signifie que chaque information que vous fournissez, même involontairement, peut potentiellement servir à entraîner une IA. Fin 2024, LinkedIn a essuyé une vague de vives critiques après avoir admis utiliser les données de ses utilisateurs pour entraîner ses outils d'IA. Face à ce tollé, l'entreprise a été contrainte d'ajouter une option permettant aux utilisateurs de s'y opposer, mais en réalité, très peu de personnes en étaient informées ou modifiaient volontairement leurs paramètres.
LinkedIn ne fait pas exception. Meta exploite également les données de Facebook et d'Instagram, tandis qu'Amazon utilise les conversations avec Alexa pour développer son modèle. Ces pratiques peuvent entraîner de graves violations de la propriété intellectuelle ; les œuvres générées par l'IA présentent parfois une ressemblance frappante avec les créations personnelles d'auteurs et d'artistes, les exposant ainsi au risque de plagiat sur la plateforme numérique elle-même. Ce phénomène a suscité de nombreuses actions collectives et une vague de protestations de la part de la communauté créative.
5. Les chatbots IA peuvent utiliser vos informations personnelles contre vous.
Les risques liés au partage de données personnelles avec l'IA ne se limitent pas à la violation des droits de propriété intellectuelle ; ils résident également dans les biais potentiels inhérents aux modèles de langage à grande échelle. Entraînés sur des ensembles de données massifs, ces outils sont susceptibles d'intégrer des biais sociaux, ce qui peut conduire à des décisions ou des suggestions discriminatoires.
Le Centre pour la vie privée et la technologie de l'Université de Georgetown (États-Unis) estime que la moitié des adultes aux États-Unis ont leurs images stockées dans les bases de données de reconnaissance faciale des forces de l'ordre.
Parallèlement, les Afro-Américains représentaient près de 40 % de la population carcérale. Lorsque ces données ont été intégrées à un système d'IA, les algorithmes étaient sujets à des erreurs d'identification des suspects ou d'association d'un visage à une description textuelle ou visuelle.
Les risques ne se limitent pas à la sécurité ; l’intelligence artificielle est également utilisée pour la sélection des candidats à l’embauche, l’approbation des prêts ou des locations, et pourrait potentiellement révéler des biais cachés.
Amazon a été contrainte d'interrompre son système de recrutement automatisé en 2015 suite à la découverte de biais sexistes. Cet exemple démontre que, même si les individus ont peu de contrôle sur les données d'entraînement de l'IA, la prudence dans le partage d'informations demeure une protection essentielle contre les biais technologiques.