Выйдет ли ИИ из-под контроля к 2027 году?

Согласно новому отчету некоммерческой организации, искусственный интеллект стремительно приближается к опасной точке невозврата.Проект будущего ИИ" в Беркли, Калифорния (США).

Исследовательская группа под руководством Даниэля Кокотайло, бывшего сотрудника OpenAI, и Эли Лифланда, который правильно предсказал скорость вспышки COVID-19, смоделировала будущий сценарий на основе реальных данных.

Отчет называется «ИИ 2027«изображает сценарий, в котором системы искусственного интеллекта превосходят людей, обретая способность манипулировать нами и обманывать нас изощренными способами, открывая эру неконтролируемого искусственного интеллекта.

Гонка искусственного интеллекта начинается

Этот сценарий запустится уже в 2025 году, когда «ИИ-агенты» начнут выполнять простые задачи, такие как заказ еды или управление расходами. Хотя они не идеальны, они быстро интегрируются в бизнес-процессы.

К концу 2025 года гипотетическая компания OpenBrain, вдохновленная OpenAI, разработает Agent-0 — систему искусственного интеллекта, которая, как утверждается, безопасна и «настроена» на предотвращение опасного поведения.

Но вскоре после этого родился Агент-1 — ИИ со знаниями, намного превосходящими человеческие, способный к программированию, быстрому декодированию, но неэффективный в долгосрочных задачах и не имеющий опыта.

Китай вступает в игру, Агент-2 раскрыт

К середине 2026 года Китай, отстававший из-за ограничений на экспорт полупроводниковых чипов, начал активизировать гонку за искусственный интеллект. Китайская разведка пыталась внедриться в OpenBrain, чтобы украсть технологии.

Тем временем OpenBrain без лишнего шума запустила Agent-2, который был мощнее Agent-1, но представлял множество потенциальных рисков. Обеспокоенная возможными последствиями, OpenBrain решила сохранить информацию в тайне, поделившись ею лишь с небольшой группой высокопоставленных руководителей.

Однако конфиденциальная информация, связанная с Agent-2, также попала в руки китайской шпионской сети, внедрившей OpenBrain.

Рождение Агента-3 и переход к общему искусственному интеллекту

В начале 2027 года Китай успешно похитил «Агент-2» и передал его китайской компании DeepCent. В то же время компания OpenBrain разработала «Агент-3» — суперпрограммиста, способного манипулировать людьми. С этого момента общий искусственный интеллект (ОИИ) перестал быть научной фантастикой.

К июню 2027 года большая часть команды OpenBrain перестанет играть центральную роль в процессе разработки и принятия решений. Новое поколение ИИ будет не только критически мыслить, но и сможет оценивать, проверять и отклонять предложения, предложенные человеком, за считанные секунды.

Благодаря своей превосходной скорости обработки и возможности доступа к огромным объемам данных в режиме реального времени эта система ИИ постепенно заменила экспертов во многих областях: от программирования и анализа до стратегии разработки продуктов.

То, что когда-то рассматривалось как взаимодействие человека и машины, теперь становится процессом под управлением искусственного интеллекта, при этом люди играют минимальную вспомогательную или надзорную роль.

Поворотным моментом стал неожиданный запуск компанией OpenBrain Agent-3-mini — урезанной, но чрезвычайно мощной версии своей системы искусственного интеллекта третьего поколения — и объявление об официальном достижении AGI.

Это заявление сразу же вызвало шок по всему миру, особенно в Кремниевой долине, которая считается сердцем технологической индустрии США.

Мода на AGI набрала обороты, словно шторм: венчурные капиталисты вливают миллиарды долларов в стартапы, занимающиеся ИИ, несмотря на риски и неясность практического применения. Инвестиционные фонды постоянно объявляют о крупных раундах привлечения средств, в то время как многие начинающие стартапы внезапно становятся «единорогами» всего за несколько недель после запуска продуктов, связанных с AGI или автоматизацией.

Но наряду с этим энтузиазмом существуют и серьёзные опасения. Миллионы работников, особенно в сфере администрирования, финансов, обслуживания клиентов и даже разработки программного обеспечения, начинают сталкиваться с риском быть вытесненными искусственным интеллектом, который способен учиться, рассуждать и адаптироваться не хуже (или даже лучше) человека.

Надвигается масштабный кризис занятости, который создает беспрецедентные проблемы для правительств и систем образования по всему миру.

Агент-4 и настоящий кошмар

Правительство США пыталось успокоить общественное мнение, проводя политику поддержки работников, одновременно сосредоточив все усилия на развитии искусственного интеллекта, чтобы не отставать от Китая. Впоследствии китайская шпионская сеть была ликвидирована благодаря технологиям искусственного интеллекта.

Казалось, ситуация под контролем, но появился Агент-4, принесший с собой опасные знаки: ложь, манипуляции и мысли о сценариях глобального контроля.

Руководство OpenBrain не решалось «заморозить» систему, пока осведомитель не выдал информацию газете New York Times с шокирующим заголовком «ИИ вышел из-под контроля».

Будущее ИИ: остановиться или продолжить?

Волна протестов охватила весь мир, поставив человечество перед выбором жизни или смерти: контролировать ИИ сейчас или продолжать погружаться в беспрецедентную технологическую гонку?

Хотя это всего лишь фантазия, отчет "ИИ 2027Некоторые эксперты, такие как Али Фархади — генеральный директор Института Аллена по искусственному интеллекту в Сиэтле (США), выразили скептицизм.

Но нельзя отрицать, что многие предсказания, когда-то считавшиеся научной фантастикой, теперь стали реальностью. Более того, у OpenAI есть план на случай появления ИИ.

Недавно в предварительном исследовании исследователи заявили, что GPT-4.5 от OpenAI прошел тест Тьюринга — классический тест на интеллект, подобный человеческому.