Avertissement sur les risques de l'intelligence artificielle pour les enfants

Photo d'illustration. (Source : Robogenius)

L'intelligence artificielle (IA) devient une « fièvre » dans le monde de la technologie, en particulier après que la société OpenAI a lancé les outils ChatGPT et GPT-4.

Cette technologie de pointe a le potentiel de changer la vie de nombreux travailleurs, mais elle est également considérée comme une « arme à double tranchant », en particulier pour les enfants.

Le Fonds des Nations Unies pour l'enfance (UNICEF) et le Forum économique mondial ont publié un rapport mettant en garde contre les risques liés à l'IA pour les enfants, notamment en matière de vie privée, de sécurité et d'impacts psychologiques et comportementaux. Ces risques peuvent provenir des réseaux sociaux.

Les algorithmes d'IA apprennent et stockent le contenu recherché et avec lequel les enfants ou toute autre personne interagissent, même si ce contenu peut être préjudiciable pour eux ou leur entourage. Bien que les réseaux sociaux aient pris de nombreuses mesures pour prévenir ce risque, il n'est toujours pas possible de l'éliminer complètement.

Les enfants pourraient également être plus négligents lorsqu'ils partagent des informations personnelles en ligne, ce qui les rend plus vulnérables aux violations de données. Le rapport suggère également que l'IA pourrait exacerber les inégalités et les préjugés.

Par exemple, les écoles qui utilisent l’IA et l’apprentissage automatique pour trier les candidatures des étudiants peuvent exclure par inadvertance mais systématiquement certains groupes de candidats.

Seth Bergeson, membre du Forum économique mondial, cite un exemple similaire. Au Royaume-Uni, un nouvel algorithme d'IA a mal évalué les résultats du GCE des étudiants, anéantissant ainsi les espoirs de nombreux étudiants d'intégrer les meilleures universités.

Les experts ont également évoqué la question de l’autonomie et de la prise de décision, selon laquelle l’IA est si étroitement liée à la vie qu’il est difficile de ne pas dépendre de cette technologie.

Pour prévenir et réduire les risques, les experts affirment que l'éducation est essentielle. Les enfants doivent comprendre le fonctionnement de ces technologies afin d'en saisir les avantages, les risques potentiels et comment les utiliser efficacement.

Aimee Roundtree, professeure à l'Université d'État du Texas, souligne la nécessité d'enseigner aux enfants les bases de l'IA dans un langage simple et compréhensible. L'éducation expérientielle, grâce à des logiciels permettant aux utilisateurs d'explorer les algorithmes et les technologies de l'IA de manière visuelle, constitue également une approche utile.

D'autres experts affirment qu'il est important non seulement de comprendre l'IA, mais aussi de savoir comment interagir avec elle. Cela implique de développer des compétences telles que l'esprit critique et la créativité, qui peuvent compléter l'IA, ainsi que de s'attaquer à des problèmes tels qu'une dépendance excessive à l'IA pour la prise de décision.

Les experts soulignent avant tout la nécessité d’enseigner aux enfants l’IA responsable et de l’utiliser de manière sûre et éthique.

Les enfants et les jeunes doivent comprendre que l'IA présente des limites, de graves défauts et peut produire des résultats biaisés et préjudiciables, a déclaré Bergeson. Les jeunes doivent être formés à l'esprit critique et à la décision quant à l'utilisation des modèles d'IA.