Facebook développe une intelligence artificielle capable de mentir

Les récents avertissements des scientifiques concernant le risque de voir des robots dotés d’intelligence artificielle (IA) émerger et dominer l’humanité ne sont peut-être plus exagérés après que Facebook a introduit un nouveau système d’IA capable de mentir pour obtenir ce qu’il veut.

Une invention du laboratoire d'IA de Facebook démontre que la négociation n'est plus l'apanage des humains. Le nouveau système d'IA de l'entreprise a démontré qu'il pouvait apprendre à négocier en observant toutes les parties lors de 5 808 conversations humaines, permettant ainsi aux robots de planifier des réunions ou de vous proposer les meilleures offres ou transactions en ligne.

Les chercheurs de Facebook ont ​​utilisé un jeu pour aider leurs robots à apprendre à négocier des livres, des chapeaux et des ballons de basket. Chaque objet avait une valeur en points, et les robots devaient négocier par SMS pour les partager.

Trong quá trình chơi, mỗi khi nhìn thấy một vật có giá trị, bot của Facebook sẽ bắt đầu đưa ra một tuyên bố nêu lên các yêu cầu của nó. Ví dụ, bot có thể nói: "Tôi thích tất cả các quyển sách" vì các quyển sách có trị số điểm cao hơn mũ hay bóng rổ. Căn cứ vào những gì quan sát được từ cách con người thương lượng với nhau, hệ thống AI của bot sẽ đưa ra một tập hợp từ ngữ theo trật tự nhất định, giúp nó giành được thứ mình muốn.

Không chỉ phát biểu mong muốn trước tiên, bot của Facebook còn có thể hồi đáp các thông điệp của đối thủ, cứ như vậy cho tới khi đối thoại kết thúc. Nhóm nghiên cứu đã thiết lập cho hệ thống AI không bao giờ chấp nhận "tay trắng" trong các giao dịch. Điều đó đồng nghĩa, bot sẽ phải không ngừng đàm phán cho tới khi đạt được mục đích, kể cả áp dụng chiêu nói dối.

Đáng chú ý, trong khi thường thuyết, thay vì nói thẳng điều mình muốn, đôi khi hệ thống AI giả vờ tỏ ra quan tâm yêu thích một vật vô giá trị, rồi sau đó nhường nó để đổi lấy thứ bot thực sự mong muốn. Các nhà nghiên cứu Facebook hiện chưa rõ hệ thống AI học lỏm được thủ thuật này từ các nhà đàm phán bằng xương bằng thịt hay nó vô tình có được khả năng đó. Dù thế nào, mỗi khi thủ thuật phát huy tác dụng, nó đều được thưởng.

Việc Facebook nghiên cứu các giải pháp giúp cải thiện cách các bot của hãng tương tác với các đối tượng khác không phải là điều gây kinh ngạc. Công ty đã mạnh tay đầu tư cho dự án phát triển các bot có khả năng thay mặt người dùng và doanh nghiệp đàm phán cho nền tảng Messenger, tương lai của dịch vụ khách hàng. Tham vọng được Facebook công bố tại hội nghị các nhà phát triển F8 năm 2016 này hiện chưa thể hiện thực hóa do các bot thiếu khả năng tạo ra các thông điệp có nghĩa hoặc hiểu nhiều câu hỏi của người dùng.

Để thúc đẩy nghiên cứu, Facebook hiện công khai tất cả các mã và dữ liệu thu được từ dự án.

Theo VNN