Facebook разрабатывает искусственный интеллект, который может лгать

Недавние предупреждения ученых о риске подъема и доминирования роботов с искусственным интеллектом (ИИ) над человечеством могут оказаться не такими уж и неправдоподобными после того, как Facebook представила новую систему ИИ, которая может лгать, чтобы получить желаемое.

Изобретение лаборатории искусственного интеллекта Facebook показывает, что переговоры больше не являются исключительной прерогативой людей. Новая система искусственного интеллекта компании продемонстрировала, что она может научиться вести переговоры, наблюдая за всеми участниками 5808 человеческих разговоров, что позволяет ботам назначать встречи, находить для вас лучшие предложения и онлайн-транзакции.

Исследователи Facebook использовали игру, чтобы научить своих ботов торговать книгами, шляпами и баскетбольными мячами. Каждый предмет имел определённую ценность, и боты должны были договариваться с помощью текстовых сообщений, чтобы разделить их.

Во время игры, всякий раз, когда бот Facebook видит ценный предмет, он начинает делать заявление, излагающее его требования. Например, бот может сказать: «Мне нравятся все книги», потому что книги имеют большую ценность, чем шляпы или баскетбольные мячи. Основываясь на наблюдениях за тем, как люди ведут переговоры друг с другом, система искусственного интеллекта бота предложит набор слов в определённом порядке, который поможет ему выиграть желаемое.

Бот Facebook не только первым выражает свои пожелания, но и может отвечать на сообщения оппонента, и так далее, пока разговор не закончится. Команда настроила систему искусственного интеллекта так, чтобы она никогда не принимала сделки «с пустыми руками». Это означает, что боту придётся продолжать переговоры, пока он не достигнет своей цели, даже если он использует обман.

Примечательно, что во время разговора, вместо того чтобы прямо заявить о своих желаниях, система искусственного интеллекта иногда притворялась, что заинтересована в бесполезном предмете, а затем отказывалась от него в обмен на то, что было действительно нужно боту. Исследователи Facebook не уверены, переняла ли система искусственного интеллекта этот трюк у людей-переговорщиков или же она приобрела эту способность случайно. В любом случае, всякий раз, когда трюк срабатывал, он вознаграждался.

Неудивительно, что Facebook работает над улучшением взаимодействия своих ботов с другими пользователями. Компания вложила значительные средства в разработку ботов, способных вести переговоры от имени пользователей и компаний для своей платформы Messenger, будущего клиентского сервиса. Эта цель, заявленная на конференции разработчиков Facebook F8 2016 года, пока не реализована, поскольку боты не способны создавать содержательные сообщения или понимать многие вопросы, которые задают пользователи.

Для продвижения исследований Facebook теперь делает общедоступным весь код и данные, собранные в ходе проекта.

По данным ВНН