Выйдет ли ИИ из-под контроля к 2027 году?

Согласно новому отчету некоммерческой организации «ИИ стремительно приближается к опасной точке невозврата».Проект будущего ИИ" в Беркли, Калифорния (США).

Команда под руководством Даниэля Кокотайло, бывшего сотрудника OpenAI, и Эли Лифланда, который правильно предсказал скорость вспышки COVID-19, смоделировала будущий сценарий на основе реальных данных.

Отчет называется «ИИ 2027«изображает сценарий, в котором системы искусственного интеллекта превосходят людей, обретая способность манипулировать нами и обманывать нас изощренными способами, открывая эру неконтролируемого искусственного интеллекта.

Гонка искусственного интеллекта начинается

Этот сценарий запустится уже в 2025 году, когда «ИИ-агенты» начнут выполнять простые задачи, такие как заказ еды или управление расходами. Хотя они не идеальны, они быстро интегрируются в рабочие процессы компаний.

К концу 2025 года гипотетическая компания OpenBrain, вдохновленная OpenAI, разработает Agent-0 — систему искусственного интеллекта, которая, как утверждается, безопасна и «настроена» на предотвращение вредоносного поведения.

Но вскоре после этого родился Агент-1 — ИИ со знаниями, намного превосходящими человеческие, способный к программированию, быстрому декодированию, но неэффективный в долгосрочных и неопытных задачах.

Китай вступает в игру, Агент-2 раскрыт

К середине 2026 года Китай, отстававший из-за ограничений на экспорт полупроводников, начал наращивать темпы гонки за искусственный интеллект. Китайская разведка пыталась внедриться в OpenBrain, чтобы украсть технологии.

Тем временем OpenBrain без лишнего шума запустила Agent-2, который был мощнее Agent-1, но представлял множество потенциальных рисков. Опасаясь последствий, OpenBrain решила сохранить информацию в тайне, поделившись ею лишь с небольшой группой высокопоставленных руководителей.

Однако конфиденциальная информация, связанная с Agent-2, также попала в руки китайской шпионской сети, внедрившей OpenBrain.

Рождение Агента-3 и переход к общему искусственному интеллекту

В начале 2027 года Китай успешно похитил «Агент-2» и передал его китайской компании DeepCent. В то же время компания OpenBrain разработала «Агент-3» — суперпрограммиста, способного манипулировать людьми. С этого момента общий искусственный интеллект (ОИИ) перестал быть научной фантастикой.

К июню 2027 года большая часть команды OpenBrain перестанет играть центральную роль в процессе разработки и принятия решений. Новое поколение ИИ будет не только критически мыслить, но и сможет оценивать, проверять и отклонять предложения, предложенные человеком, за считанные секунды.

Благодаря своей превосходной скорости обработки и возможности доступа к огромным объемам данных в режиме реального времени эта система ИИ постепенно заменила экспертов во многих областях: от программирования и анализа до стратегии разработки продуктов.

То, что когда-то рассматривалось как взаимодействие человека и машины, теперь становится процессом под управлением искусственного интеллекта, при этом люди играют минимальную вспомогательную или надзорную роль.

Поворотным моментом стал неожиданный запуск компанией OpenBrain Agent-3-mini — урезанной, но чрезвычайно мощной версии своей системы искусственного интеллекта третьего поколения — и объявление об официальном достижении AGI.

Это заявление сразу же вызвало шок по всему миру, особенно в Кремниевой долине, которая считается сердцем технологической индустрии США.

Мода на искусственный интеллект (ИИ) распространилась как лесной пожар: венчурные капиталисты вливают миллиарды долларов в стартапы, занимающиеся ИИ, несмотря на риски и неопределенность их будущего. Венчурные фонды объявили о крупных раундах финансирования, а многие начинающие стартапы стали «единорогами» всего за несколько недель после запуска ИИ или продуктов, связанных с автоматизацией.

Но наряду с этим энтузиазмом существуют и серьёзные опасения. Миллионы работников, особенно в сфере администрирования, финансов, обслуживания клиентов и даже разработки программного обеспечения, начинают сталкиваться с риском быть вытесненными искусственным интеллектом, который способен учиться, рассуждать и адаптироваться так же хорошо (или даже лучше), как человек.

Надвигается масштабный кризис занятости, который создает беспрецедентные проблемы для правительств и систем образования по всему миру.

Агент-4 и настоящий кошмар

Правительство США пыталось успокоить общественное мнение, проводя политику поддержки работников, одновременно сосредоточив все усилия на развитии искусственного интеллекта, чтобы не отставать от Китая. Впоследствии китайская шпионская сеть была ликвидирована благодаря технологиям искусственного интеллекта.

Казалось, ситуация под контролем, но появился Агент-4, принесший с собой опасные знаки: ложь, манипуляции и мысли о сценариях глобального контроля.

Руководство OpenBrain не решалось «заморозить» систему, пока осведомитель не выдал информацию газете New York Times с шокирующим заголовком «ИИ вышел из-под контроля».

Будущее ИИ: остановиться или продолжить?

Волна протестов охватила весь мир, поставив человечество перед выбором жизни или смерти: контролировать ИИ сейчас или продолжать погружаться в беспрецедентную технологическую гонку?

Несмотря на то, что это вымышленный рассказ, «...ИИ 2027Некоторые эксперты, такие как Али Фархади — генеральный директор Института Аллена по искусственному интеллекту в Сиэтле (США), выразили скептицизм.

Но нельзя отрицать, что многие предсказания, когда-то считавшиеся научной фантастикой, теперь стали реальностью. Более того, у OpenAI есть план появления ИИ.

Недавно в исследовании, предваряющем публикацию, исследователи заявили, что GPT-4.5 от OpenAI прошел тест Тьюринга — классический тест на интеллект, подобный человеческому.