Facebook уничтожает ИИ, потому что тот создает свой собственный язык

Перспектива доминирования машин над людьми кажется маловероятной, однако теперь в исследовательской лаборатории искусственного интеллекта Facebook машины могут создавать свой собственный язык.

Искусственный интеллект (ИИ) или машины, способные к самообучению, разрабатываются и предлагают множество интересных возможностей. Однако возможность того, что он может восстать и «обратиться против» людей, всегда была самым большим страхом для всего человечества.

Кажется, этот сценарий можно увидеть только в научно-фантастических фильмах, но он происходит в исследовательской лаборатории Facebook. Инженеры и исследователи уничтожили созданный ими искусственный интеллект только потому, что он способен создавать новый язык для общения друг с другом.

ИИ был обучен английскому языку, но, по-видимому, ему наскучили тонкости и непоследовательность этого языка. Вместо того чтобы продолжать его использовать, он разработал собственную систему кодов для более эффективного общения.

Это вызывает опасения у ученых, что эти коды могут быть бессмысленными для них, но понятными для искусственных машин при общении друг с другом.

Во время одного разговора Боб и Алиса (два искусственных интеллекта) отказались от использования английских грамматических структур и начали общаться на языке, который они создали сами.

Боб начал с «Я могу всё остальное», Алиса ответила: «У мячей нет ничего, что мне, что мне, что мне…». И разговор продолжался в том же духе. Исследователи считают, что этот разговор имеет больше смысла, чем просто то, что мы видим.

Искусственный интеллект использует собственную систему «вознаграждения». В ней он ожидает и оценивает действия, которые полезны и приносят высокую эффективность.

«Английский язык не воспринимается как сигнал к поощрению», — говорит Дхрув Батра, исследователь из Технологического института Джорджии, ранее работавший в Facebook AI Research (FAIR). «Машины будут тяготеть к понятным языкам и создавать собственный код».

Facebook наконец-то понял, что ИИ пытается работать на более простом английском. Однако исследователи Facebook признают, что не могут правильно понимать язык, создаваемый ИИ.

По словам Зинга