Действительно ли искусственный интеллект опаснее атомной бомбы?

Выдающиеся результаты работы продвинутой модели разговорного искусственного интеллекта, разработанной и запущенной компанией OpenAI в конце ноября 2022 года под названием ChatGPT, породили ожидания того, что системы, способные сравняться с человеческими когнитивными способностями или даже обладать «сверхчеловеческим» интеллектом, вскоре могут стать реальностью.

Иллюстративное изображение.

Способность понимать человеческий язык и создавать тексты, имитирующие человеческую речь, является долгосрочной целью исследований в области искусственного интеллекта. С появлением больших языковых моделей (LLM) эта цель стала ближе к реальности, чем когда-либо прежде.

По своей сути, ChatGPT — это мощная модель разговорного искусственного интеллекта, которая использует преимущества больших языковых моделей для предоставления человекоподобных ответов, ответов на вопросы и предложений в режиме реального времени. В отличие от традиционных чат-ботов, ограниченных предварительно запрограммированными ответами, ChatGPT может понимать и генерировать множество креативных, а иногда и неточных, типов текста.

Однако эксперты в области искусственного интеллекта высказывают серьезные опасения по поводу опасностей, которые неконтролируемое развитие ИИ может представлять для общества или даже для самого выживания человечества.

Было выпущено множество предупреждений об опасностях искусственного интеллекта.

22 марта миллиардер Илон Маск и группа из более чем 1000 ведущих экспертов в области технологий со всего мира опубликовали открытое письмо в Организацию Объединенных Наций, предупреждающее об опасностях неконтролируемого развития искусственного интеллекта. Письмо завершалось заявлением: «Поэтому мы призываем все лаборатории искусственного интеллекта немедленно прекратить обучение систем ИИ, более мощных, чем GPT-4, как минимум на шесть месяцев».

Чтобы продемонстрировать необходимость прекращения исследований моделей ChatGPT следующего поколения, в открытом письме утверждается:

«Развитие моделей искусственного интеллекта может представлять собой глубокий сдвиг в истории жизни на Земле и требует тщательного планирования и контроля. Однако этого до сих пор не было сделано, несмотря на то, что в последние месяцы лаборатории ИИ охвачены неконтролируемой гонкой по разработке и внедрению все более мощных цифровых разумов, которые никто, включая их создателей, не может надежно понять, предсказать или контролировать. Мы должны задаться вопросом: следует ли автоматизировать все рабочие места? Следует ли нам разрабатывать искусственные разумы, которые будут умнее и смогут заменить нас? Следует ли нам рисковать потерей контроля над нашей цивилизацией?»

На самом деле, это не первый случай, когда ученые предупреждают о потенциальной опасности, которую искусственный интеллект представляет для человечества. В 2014 году известный британский физик-теоретик Стивен Хокинг заявил: «Полное развитие искусственного интеллекта может уничтожить человечество». Он также предсказал, что человечество будет полностью заменено искусственным интеллектом в течение 500 лет, если не будет проявлена ​​осторожность в исследованиях и разработках этой опасной технологии.

Недавно Элиэзер Юдковски, американский учёный-компьютерщик, широко известный как один из основателей области искусственного интеллекта, выразил ещё большую обеспокоенность, опубликовав в журнале Time статью под названием «Приостановки развития ИИ недостаточно. Нам нужно всё это остановить».

Таким образом, Элиэзер Юдковски утверждает, что весьма вероятно появление модели искусственного интеллекта со сверхчеловеческим интеллектом. В этот момент человечество на Земле рискует буквально вымереть. Это не просто «возможно», а «неизбежно».

Потенциальные риски искусственного интеллекта зависят от того, как он используется. Изначально ИИ разрабатывался для помощи людям в их работе, особенно в выполнении утомительных, повторяющихся задач, таких как классификация изображений и анализ информации.

Однако, учитывая стремительное развитие искусственного интеллекта в последнее время, ученые и эксперты в области технологий обеспокоены тем, что, если его развитие будет бесконтрольным или он будет запрограммирован не для тех целей, искусственный интеллект может иметь серьезные последствия для человечества и общества.

Развитие искусственного интеллекта должно строго контролироваться, подобно тому как контролируются термоядерные бомбы.

Вид ученых, занимающихся искусственным интеллектом, призывающих к приостановке или даже прекращению стремительно развивающейся работы в своей области, неизбежно напоминает нам об истории ядерного оружия.

Разрушительная мощь атомной бомбы, которую ученые создавали на протяжении всей истории, также считается ярким примером в исследованиях и разработках новых технологий.

В 1949 году несколько ведущих физиков-ядерщиков и других ветеранов проекта создания атомной бомбы выразили протест против участия в разработке термоядерного оружия («водородной бомбы»), поскольку энергия, выделяемая этим типом бомбы, могла быть более чем в 1000 раз больше, чем у атомной бомбы, использующей ядерное деление.

Большинство ученых разделяют мнение, что термоядерные бомбы угрожают самому будущему человечества. Человечеству было бы лучше без этой сверхбомбы.

Однако, наряду с военным применением, представляющим угрозу для человечества, атомная энергия в виде реакторов деления принесла человечеству огромные преимущества. Термоядерная энергия, впервые высвобожденная в неконтролируемой форме в термоядерной бомбе, обещает еще большие выгоды.

Когда искусственный интеллект разовьётся до такой степени, что сможет самостоятельно принимать решения, чтобы адаптироваться к меняющейся среде, или независимо искать альтернативные цели, или расширять свой целевой диапазон, тогда человечество может перестать быть в безопасности.

Например, в будущем ИИ будет поддерживать критически важные системы, такие как электроснабжение, транспорт, здравоохранение и финансы. Он сможет управлять этими системами целиком, принимая и реализуя решения самостоятельно в чрезвычайных ситуациях. Однако, если ИИ используется в злонамеренных и преднамеренных целях, это может привести к серьезным последствиям, таким как нарушение работы транспортных систем путем отключения светофоров или прекращения электроснабжения городских железнодорожных систем, что вызовет цепные аварии и масштабные отключения электроэнергии.

Американские голливудские студии также выпустили множество фильмов, основанных на этом сценарии. Однако с учетом современных технологий искусственного интеллекта это уже не отдаленная перспектива, а вполне осуществимо. Илон Маск считает, что если ИИ будет развиваться бесконтрольно, до такой степени, что сможет автоматизировать решения без вмешательства человека, это может представлять угрозу для выживания человечества.

Именно поэтому он, вместе с тысячами экспертов в области технологий, подписал письмо с требованием остановить разработку ИИ и обеспечить более строгий и прозрачный контроль над ней. По словам Илона Маска, системы искусственного интеллекта сложны, их трудно понять и очень сложно контролировать. Без прозрачности использование искусственного интеллекта в неэтичных целях, причиняющее вред человечеству, неизбежно.

Может ли искусственный интеллект регулировать поведение человека?

Предположим, что в будущем системы искусственного интеллекта, работающие на основе глубокого обучения, постепенно приобретут способность манипулировать людьми через их психологическое состояние и изменять их поведение. Глубокое обучение можно рассматривать как подраздел машинного обучения, где компьютеры учатся и совершенствуются с помощью алгоритмов. Глубокое обучение основано на гораздо более сложных концепциях, в первую очередь, на работе с искусственными нейронными сетями, имитирующими мыслительные и логические способности человеческого мозга.

Фактически, такие системы могут захватить контроль над обществом. Непредсказуемое поведение систем искусственного интеллекта, основанных на глубоком обучении, если его не контролировать, может иметь катастрофические последствия для человечества.

В будущем страны будут развертывать сети систем искусственного интеллекта, способных модулировать поведение в средствах массовой информации, системах образования и других секторах для «оптимизации» общества. Этот процесс может быть эффективным на начальном этапе, но быстро выйдет из-под контроля человека и приведет к социальному хаосу.

Многие приложения искусственного интеллекта оптимизированы для изменения поведения человека, включая чат-боты, используемые в психотерапии. Во многих других случаях, например, в образовании детей, приложения ИИ оказывают мощное поведенческое воздействие.

Как и любая другая технология, любое применение ИИ имеет как преимущества, так и потенциальные риски. В настоящее время производительность систем ИИ по-прежнему в значительной степени контролируется людьми.

Однако развитие ИИ открыло совершенно новое измерение. В недавней статье в журнале Forbes известный эксперт по ИИ Лэнс Элиот подробно описывает несколько различных способов, с помощью которых чат-боты и другие приложения ИИ могут манипулировать человеческой психологией, даже когда люди этого не хотят.

С другой стороны, целенаправленное изменение поведения и мышления с помощью систем искусственного интеллекта — это быстро развивающаяся область, приложения которой встречаются в самых разных контекстах.

Например, передовые системы электронного обучения на основе ИИ также можно рассматривать как форму модификации поведения. Действительно, приложения ИИ в образовании, как правило, опираются на бихевиористские модели обучения человека. Передовые системы обучения на основе ИИ разработаны для оптимизации реакций и результатов обучения детей, создания индивидуальных профилей для каждого ребенка, оценки их прогресса в режиме реального времени и соответствующей корректировки их заданий.

Еще один пример — популярность чат-ботов на основе искусственного интеллекта, призванных помочь людям бросить курить или употреблять наркотики, правильно заниматься спортом и выработать более здоровые привычки.

Нет сомнений в том, что системы искусственного интеллекта во многих конкретных ситуациях превосходят людей. Более того, ИИ постоянно совершенствуется. Но к чему приведет это непрерывное расширение и интеграция систем ИИ, особенно с учетом того, что это позволит им обладать более всеобъемлющими и мощными возможностями, чем когда-либо прежде, для формирования человеческого мышления и поведения?

На протяжении всей истории человечества попытки полностью оптимизировать общество, превратив его в сверхсистему, функционирующую в соответствии со строгими критериями, часто приводили к катастрофе.

Согласно приведенному выше открытому письму, большинство экспертов в области ИИ согласны с тем, что приложения ИИ всегда должны находиться под контролем человека, а разработка и применение ИИ должны регулироваться человеческим интеллектом.

Растущая распространенность искусственного интеллекта, основанного на глубоком обучении, проникающего во многие сферы человеческой деятельности, и тенденция к интеграции таких систем в иерархию общества создадут значительные риски для общества.

Вопрос в том, что если сверхмощная система искусственного интеллекта выйдет из строя, угрожая катастрофическими последствиями, кто или что вмешается, чтобы остановить это?

В знаменитом научно-фантастическом фильме Стэнли Кубрика «2001: Космическая одиссея» выживший астронавт в последний момент вмешивается, чтобы отключить систему искусственного интеллекта. Но смог бы он это сделать, если бы ИИ уже скорректировал свое поведение, чтобы предотвратить это?

На самом деле, попытки ограничить развитие ИИ нелогичны. Это было бы вредно и контрпродуктивно. Но мы должны признать, что опасности, возникающие в результате быстрого развития систем ИИ практически во всех областях человеческой деятельности, должны быть сдерживаемы соответствующими нормативными актами и человеческим контролем.

Как и любая другая технология, искусственный интеллект очень полезен для улучшения качества работы и жизни людей, и его можно использовать как в благих, так и в недобрых целях. Поэтому крайне важно жестко контролировать эту технологию, чтобы она не вышла из-под контроля и не стала угрозой для замены человека в будущем.

Фан Ван Хоа