Газета Daily Mail процитировала слова исследователя в области технологий, который заявил, что искусственный интеллект потенциально может представлять опасность для человечества, подобную ядерному оружию.

«Терминатор» — один из фильмов серии, демонстрирующих опасность, которую представляет искусственный интеллект. — Скриншот

Профессор Стюарт Рассел, специалист по информатике из Калифорнийского университета (США) и Кембриджского университетского центра исследований рисков (Великобритания), а также один из ведущих специалистов в области искусственного интеллекта (ИИ), обеспокоен тем, что с таким стремительным развитием ИИ человечество может оказаться на грани катастрофы.

В подтверждение своей точки зрения Рассел отметил, что стремительное развитие ИИ в таких компаниях, как Boston Dynamics (недавно приобретенная Google), приведет к созданию роботов для военного применения. В частности, ИИ можно будет легко использовать для автоматического управления военными арсеналами.

Профессор Стивен Хокинг также присоединился к группе ведущих экспертов, подписавших открытое письмо, в котором предупреждается о необходимости принятия мер безопасности для обеспечения того, чтобы ИИ оказывал положительное влияние на человечество.

В интервью журналу Science, посвященном искусственному интеллекту, Стивен Хокинг сказал: «С самого начала главными опасениями в ядерной технологической отрасли был бесконечный запас производимой энергии. Возможности ядерного оружия были очевидны, и я думаю, что есть некоторое сходство с неограниченными возможностями искусственного интеллекта. Оба явления, кажется, вызывают серьезные опасения по поводу потенциальных рисков. Нормативы, касающиеся ядерного оружия, относятся к объектам и материалам, тогда как в случае с ИИ речь идет о проблемах программного обеспечения, которые мы не можем описать».

Недавно в журнале Science была опубликована серия статей, посвященных достижениям в области искусственного интеллекта, в которых исследователи описывают, как компьютерная помощь может создать неисчерпаемый источник энергии для этой технологии. Профессор Рассел предупреждает, что неконтролируемое развитие ИИ может быть опасным, если последствия не будут полностью изучены и не будет введено соответствующее регулирование.

В апреле 2015 года профессор Рассел также выразил обеспокоенность на встрече Организации Объединенных Наций в Женеве, Швейцария, по поводу опасностей, связанных с передачей военных самолетов и оружия под управление систем искусственного интеллекта. Базовый сценарий может быть ошибочным, поскольку ИИ нацелен на потенциально очень опасные цели. Несмотря на это, страны по-прежнему стремятся создавать системы искусственного интеллекта до того, как их противники смогут достичь своих целей.

Профессор Рассел заявил, что компьютерной науке необходимо пересмотреть свои исследовательские цели, чтобы гарантировать, что ценности и задачи остаются сосредоточенными на развитии технологий искусственного интеллекта. Такое же мнение разделяют исследователи Елена Стаич, Ричард Стоун, Гилберт Чин и Брэд Вибл, как опубликовано в редакционной статье в журнале Science.

(По данным TPO)