Facebook développe une intelligence artificielle capable de mentir

Les récents avertissements des scientifiques concernant le risque de voir des robots dotés d’intelligence artificielle (IA) émerger et dominer l’humanité ne sont peut-être plus exagérés après que Facebook a introduit un nouveau système d’IA capable de mentir pour obtenir ce qu’il veut.

Une invention du laboratoire d'IA de Facebook démontre que la négociation n'est plus l'apanage des humains. Le nouveau système d'IA de l'entreprise a démontré qu'il pouvait apprendre à négocier en observant toutes les parties lors de 5 808 conversations humaines, permettant ainsi aux robots de planifier des réunions ou de vous proposer les meilleures offres ou transactions en ligne.

Les chercheurs de Facebook ont ​​utilisé un jeu pour aider leurs robots à apprendre à négocier des livres, des chapeaux et des ballons de basket. Chaque objet avait une valeur en points, et les robots devaient négocier par SMS pour les partager.

Pendant le jeu, dès qu'il voit un objet de valeur, le bot Facebook formule ses revendications. Par exemple, il peut dire : « J'aime tous les livres », car les livres valent plus de points que les chapeaux ou les ballons de basket. En se basant sur ses observations de la manière dont les humains négocient entre eux, l'IA du bot propose un ensemble de mots dans un certain ordre qui l'aideront à obtenir ce qu'il veut.

Non seulement le bot Facebook exprime ses souhaits en premier, mais il peut également répondre aux messages de l'adversaire, et ainsi de suite jusqu'à la fin de la conversation. L'équipe a configuré le système d'IA pour qu'il n'accepte jamais de transactions « les mains vides ». Cela signifie que le bot devra poursuivre les négociations jusqu'à atteindre son objectif, même en recourant à la tromperie.

Il est à noter qu'au cours de la conversation, au lieu d'exprimer clairement ses souhaits, l'IA feignait parfois de s'intéresser à un objet sans valeur, puis le cédait en échange de ce que le robot désirait réellement. Les chercheurs de Facebook ignorent si l'IA a appris cette astuce auprès de négociateurs humains ou si elle l'a acquise par accident. Quoi qu'il en soit, chaque fois que l'astuce fonctionnait, elle était récompensée.

Il n'est pas surprenant que Facebook travaille à améliorer la façon dont ses bots interagissent. L'entreprise a investi massivement dans le développement de bots capables de négocier au nom des utilisateurs et des entreprises pour sa plateforme Messenger, l'avenir du service client. Cette ambition, annoncée lors de la conférence des développeurs F8 2016 de Facebook, n'a pas encore été concrétisée, car les bots ne sont pas capables de créer des messages pertinents ni de comprendre la plupart des questions posées par les utilisateurs.

Pour faire avancer la recherche, Facebook rend désormais publics tous les codes et données collectés dans le cadre du projet.

Selon VNN