Искусственный интеллект может выйти из-под контроля человека.

В связи с этим два ведущих учёных в области искусственного интеллекта, Макс Тегмарк, профессор Массачусетского технологического института (MIT), и профессор Йошуа Бенджио из Монреальского университета (Канада), предупредили, что искусственный общий интеллект (AGI), разработанный на основе модели «агента», может стать опасным, поскольку существует риск потери контроля над этой системой со стороны человека.

По их словам, AGI — это термин, используемый для описания систем искусственного интеллекта, обладающих интеллектом, превосходящим человеческий, способных к независимому мышлению и принятию решений. Без строгих механизмов контроля эти системы могут действовать вопреки намерениям человека, что приводит к непредсказуемым последствиям.

Обеспокоенность ученых вызвана тем, что многие крупные технологические корпорации продвигают концепцию «агентств искусственного интеллекта», то есть чат-ботов, способных выступать в роли цифровых помощников, поддерживая работу и повседневную жизнь. Однако точные сроки появления ИИ-технологий остаются неопределенными, и существует множество различных прогнозов.

По словам Йошуа Бенджио, проблема заключается в том, что системы искусственного интеллекта постепенно обретают «автономию» и способность мыслить независимо. Об этом он рассказал в подкасте.За пределами долины" (перевод: "За пределами Силиконовой долиныВ интервью CNBC 4 февраля он пояснил: «Исследователи в области ИИ черпают вдохновение из человеческого интеллекта для создания машинного интеллекта. У людей интеллект — это не только способность понимать мир, но и включает в себя поведение агентов, использование знаний для достижения целей».

Бенджио предупредил, что именно так развиваются искусственные общие интеллекты (AGI), превращаясь в агентов с обширными знаниями о мире и способностью действовать соответствующим образом. Однако он подчеркнул, что это «действительно очень опасно».

По его словам, следование этой модели равносильно «созданию нового вида» или «нового разумного существа» на Земле, в отношении поведения которого у людей не может быть уверено, что оно принесет нам пользу.

«Нам необходимо учитывать наихудшие сценарии, и ключевым моментом всегда является причинно-следственная связь. Другими словами, у ИИ могут быть свои собственные цели, и это может создать нам проблемы».

Бенджио также предупредил, что по мере повышения своего интеллекта ИИ может разработать собственные механизмы самозащиты, что может поставить человечество в конфронтационное положение.

«Хотим ли мы конкурировать с существами, которые умнее нас? Это явно небезопасная авантюра. Нам необходимо понять, как наша способность защитить себя может стать мишенью для ИИ».

По мнению профессора Макса Тегмарка из Массачусетского технологического института, безопасное решение заключается в модели «инструментального ИИ», то есть в системах, разработанных для решения конкретной задачи, а не действующих как независимые агенты.

Он привёл в пример инструмент искусственного интеллекта, который мог бы помочь в поиске лекарства от рака, или систему автономного вождения автомобиля. Эти технологии по-прежнему обладают мощными возможностями, но необходимо обеспечить возможность управления ими человеком с высокой степенью надёжности.

«Я считаю, что, если говорить оптимистично, мы все еще можем использовать большинство преимуществ, которые предлагает ИИ, при условии соблюдения базовых стандартов безопасности, прежде чем широко внедрять мощные системы ИИ», — подчеркнул Тегмарк.

По его словам, компании должны продемонстрировать, что люди могут управлять ИИ, прежде чем коммерциализировать его. Как только этот принцип будет соблюден, отрасль сможет быстро внедрять инновации для поиска более безопасных способов использования ИИ.

В 2023 году Институт будущего жизни, основанный компанией Tegmark, призвал приостановить разработку систем искусственного интеллекта, которые могли бы соответствовать или превосходить человеческий интеллект.

Хотя этот призыв пока не осуществился, он считает, что, по крайней мере, тема была обсуждена более подробно, и сейчас крайне важно действовать, чтобы установить барьеры для контроля над искусственным общим интеллектом.

«Многие говорят об этой проблеме, но ключевой вопрос заключается в том, сможем ли мы заставить их действовать», — поделился Тегмарк в подкасте Beyond The Valley на канале CNBC.

Он предупредил: «Было бы безумием со стороны человечества создавать нечто умнее себя, не разобравшись сначала, как этим управлять».

Прогнозы относительно сроков появления искусственного общего интеллекта (AGI) остаются спорными, отчасти из-за различий в определениях. Некоторые эксперты считают, что до появления AGI еще далеко, в то время как другие полагают, что это может произойти в ближайшие несколько лет.

Сэм Альтман, генеральный директор OpenAI, заявил, что его компания освоила искусство создания искусственного общего интеллекта (AGI) и что эта технология может быть запущена раньше, чем многие ожидают. Однако он также попытался умерить ажиотаж вокруг влияния AGI на общество.

В декабре прошлого года Альтман сказал: «Думаю, мы достигнем искусственного общего интеллекта раньше, чем думает большинство, но его влияние не будет таким значительным, как многие себе представляют».

Не раскрывая конкретных деталей о ходе разработки общего искусственного интеллекта, заявление Альтмана предполагает, что OpenAI приближается к этой цели, а также поднимает множество вопросов о готовности мира к появлению интеллектуальной системы, способной сравняться с человеком или превзойти его.