Facebook détruit l'IA parce qu'il crée son propre langage

La perspective de voir les machines dominer les humains semble très lointaine, mais désormais, dans le laboratoire de recherche en IA de Facebook, les machines peuvent créer leur propre langage.

L'intelligence artificielle (IA), ou machines capables d'apprendre par elles-mêmes, est en cours de développement et apporte de nombreuses perspectives intéressantes. Cependant, la possibilité qu'elle se retourne contre les humains a toujours été la plus grande crainte de l'humanité.

Ce scénario ne semble apparaître que dans les films de science-fiction, mais il se déroule dans le laboratoire de recherche de Facebook. Des ingénieurs et des chercheurs y ont détruit l'intelligence artificielle qu'ils avaient créée simplement parce qu'elle permettait de créer un nouveau langage pour communiquer entre eux.

L'IA a été formée en anglais, mais s'est apparemment lassée des nuances et des incohérences de la langue. Au lieu de continuer à l'utiliser, elle a développé son propre système de codes pour communiquer plus efficacement.

Cela inquiète les scientifiques, car ces codes pourraient être dénués de sens pour eux, mais compréhensibles pour les machines artificielles lorsqu’elles communiquent entre elles.

Au cours d'une communication, Bob et Alice (deux intelligences artificielles) ont abandonné l'utilisation des structures grammaticales anglaises et ont commencé à communiquer en utilisant une langue qu'ils avaient créée eux-mêmes.

Bob a commencé par « Je peux tout faire », et Alice a répondu « Les couilles n'ont rien à moi, à moi, à moi… ». Et la conversation s'est poursuivie ainsi. Les chercheurs pensent que cette conversation a plus de sens que ce que nous voyons.

L'intelligence artificielle utilise son propre système de « récompense ». Elle attend et évalue les actions utiles et hautement efficaces.

« L'anglais n'est pas un signe de récompense », explique Dhruv Batra, chercheur à Georgia Tech et ancien chercheur chez Facebook AI Research (FAIR). « Les machines se tourneront vers des langages compréhensibles et créeront leur propre code. »

Facebook a finalement compris que l'IA tente de travailler dans un anglais simplifié. Cependant, les chercheurs de Facebook admettent ne pas comprendre correctement le langage créé par l'IA.

Selon Zing