Le risque de manipulation des humains par l’intelligence artificielle

Les experts avertissent que l’intelligence artificielle peut interpréter l’activité cérébrale humaine et agir contre la volonté de l’utilisateur.

Les scientifiques craignent que l'intelligence artificielle représente un danger pour les humains. Photo : Meetup.

De nombreux experts mettent en garde contre le risque que les interfaces cerveau-ordinateur (ICO) soient contrôlées par l'intelligence artificielle, ce qui signifie que les pensées, les décisions et les émotions humaines peuvent être exécutées par l'intelligence artificielle contre la volonté de l'utilisateur, a rapporté Newsweek le 8 novembre.

Une équipe de 27 neuroscientifiques, éthiciens et ingénieurs en intelligence artificielle a abordé ces questions dans la revue scientifique Nature. Dans cet article, l'équipe présente l'exemple hypothétique d'un homme paralysé utilisant un prototype d'interface neuronale cérébrale (BCI) qui décode l'activité neuronale du cerveau pour contrôler un bras robotisé.

Si à un moment donné cette personne se sent mal à l’aise avec les scientifiques, l’intelligence artificielle peut lire dans ses pensées et les blesser sans recevoir d’ordres directs.

Les progrès technologiques signifient que les humains approchent d’un âge où il sera peut-être possible de décoder l’activité mentale et de contrôler directement les mécanismes cérébraux derrière les intentions, les émotions et les décisions humaines, écrit l’équipe.

À cette époque, les gens ne communiqueront entre eux que par la pensée, de puissants systèmes informatiques connectés directement au cerveau humain faciliteront l'interaction avec le monde environnant, les capacités physiques et mentales seront considérablement améliorées.

Pour prévenir les mauvaises situations causées par l’intelligence artificielle, l’équipe de recherche suggère qu’il y a quatre priorités éthiques à aborder : la vie privée et le consentement, la cohérence entre le corps et l’esprit et la capacité de choisir des actions, les interventions qui améliorent les capacités physiques ou mentales humaines et les préjugés qui provoquent des comportements sexistes ou racistes.

Plusieurs entreprises travaillent sur une forme ou une autre de technologie BCI, notamment Neuralink, fondée par le milliardaire Elon Musk plus tôt cette année. Neurolink développe une interface cerveau-machine sans fil capable de télécharger des informations depuis un ordinateur pour améliorer l'intelligence humaine.

Selon l'équipe de recherche, si le potentiel de cette technologie est exploité, l'humanité pourra entrer dans une nouvelle ère technologique. Cependant, les quatre priorités éthiques essentielles mentionnées ci-dessus doivent être prises en compte afin de garantir que cette technologie soit bénéfique pour l'humanité plutôt que néfaste.

Selon VNE