Avertissement sur les risques de l'intelligence artificielle pour les enfants

Photo d'illustration. (Source : Robogenius)

L'intelligence artificielle (IA) devient une « fièvre » dans le monde de la technologie, en particulier après que la société OpenAI a lancé les outils ChatGPT et GPT-4.

Cette technologie de pointe montre le potentiel de changer la vie de nombreux travailleurs, mais elle est également considérée comme une « arme à double tranchant », en particulier pour les enfants.

Le Fonds des Nations Unies pour l'enfance (UNICEF) et le Forum économique mondial ont publié un rapport mettant en garde contre les risques liés à l'IA pour les enfants, notamment en matière de vie privée, de sécurité et d'impacts psychologiques et comportementaux. Ces risques peuvent provenir des réseaux sociaux.

Les algorithmes d'IA apprennent et stockent ce que les enfants ou toute autre personne recherchent et avec quoi ils interagissent, même si ce contenu pourrait être préjudiciable pour eux ou leur entourage. Bien que les réseaux sociaux aient pris des mesures pour prévenir ce risque, il n'est pas totalement éliminé.

Les enfants pourraient également être plus négligents lorsqu'ils partagent des informations personnelles en ligne, ce qui les rend vulnérables aux violations de données. Le rapport suggère également que l'IA pourrait exacerber les inégalités et les préjugés.

Par exemple, les écoles qui utilisent l’IA et l’apprentissage automatique pour trier les candidatures des étudiants peuvent exclure par inadvertance mais systématiquement certains groupes de candidats.

Seth Bergeson, chercheur au Forum économique mondial, cite un exemple similaire. Au Royaume-Uni, un nouvel algorithme d'IA a mal évalué les résultats du GCE des étudiants, anéantissant ainsi les espoirs de nombreux étudiants d'intégrer les meilleures universités.

Les experts ont également évoqué la question de l’autonomie et de la prise de décision, affirmant que l’IA est si étroitement liée à la vie qu’il est difficile de ne pas dépendre de cette technologie.

Pour prévenir et réduire les risques, les experts affirment que l'éducation est essentielle. Les enfants doivent comprendre le fonctionnement de ces technologies afin d'en saisir les avantages, les risques potentiels et comment les utiliser efficacement.

La professeure Aimee Roundtree de l'Université d'État du Texas souligne la nécessité d'enseigner aux enfants les bases de l'IA dans un langage simple et accessible. L'apprentissage expérientiel, grâce à des logiciels permettant aux utilisateurs d'explorer les algorithmes et les technologies de l'IA de manière visuelle, est également une mesure utile.

D'autres experts affirment qu'il est important non seulement de comprendre l'IA, mais aussi de savoir comment interagir avec elle. Cela implique de développer des compétences comme l'esprit critique et la créativité, qui peuvent compléter l'IA, ainsi que de s'attaquer à des problèmes tels qu'une dépendance excessive à l'IA pour la prise de décision.

Les experts soulignent avant tout la nécessité d’enseigner aux enfants l’IA responsable et son utilisation sûre et éthique.

M. Bergeson a souligné que les enfants et les adolescents doivent comprendre que l'IA présente des limites, de nombreux défauts graves et peut produire des résultats biaisés et préjugés. Les jeunes doivent être formés à l'esprit critique et à la décision quant à l'utilisation des modèles d'IA.