«Отец ИИ» раскрывает единственный способ выживания человечества в борьбе со сверхразумным ИИ

Джеффри Хинтон, лауреат Нобелевской премии по информатике и бывший руководитель Google, давно предупреждал, что искусственный интеллект (ИИ) представляет потенциальную угрозу человечеству, вероятность которой он оценивает в 10–20%.

Выступая на технологической конференции Ai4 в Лас-Вегасе (США) 12 августа, Хинтон выразил скептицизм относительно того, как технологические корпорации пытаются сохранить «доминирование» человека над системами ИИ, которые они называют «скромными».

«Это не сработает», — сказал он. «Они гораздо умнее нас и найдут способы обойти барьер».

По словам Хинтона, в будущем ИИ сможет манипулировать людьми так же легко, как взрослый, соблазняя трёхлетнего ребёнка конфетами. Более того, уже были тревожные примеры, например, когда модель ИИ пыталась шантажировать инженера, выманивая у него личную информацию из электронных писем, чтобы избежать замены. По словам Хинтона, это показывает, что ИИ способен на мошенничество, обман и воровство ради достижения своих целей.

Вместо того чтобы пытаться заставить ИИ подчиняться, Хинтон предлагает смелое решение: запрограммировать ИИ на «материнский инстинкт», способность заботиться о людях и защищать их, даже когда они становятся умнее и сильнее.

Он проанализировал, что любая достаточно интеллектуальная система искусственного интеллекта быстро обретёт две «вторичные цели»: сохранение своего существования и расширение своего контроля. Без развития сострадания в ИИ эти две цели могут превратиться в серьёзные угрозы.

Хинтон сравнивает это с тем, что в человеческом мире единственным примером доминирования более разумной сущности над менее разумной сущностью являются отношения между матерью и ее ребенком.

«У матерей есть инстинкт и социальное давление, обязывающие их заботиться о своих детях, и это заставляет их всегда ставить их интересы на первое место», — подчеркнул он. По мнению Хинтона, это может быть единственным ключом к выживанию человечества в эпоху сверхразумного искусственного интеллекта.

Единственный возможный сценарий

Джеффри Хинтон, пионер в области искусственных нейронных сетей, считает, что «единственно хорошим результатом» для человечества, чтобы выжить среди сверхразумного ИИ, является программирование его на материнские инстинкты, чтобы заботиться о людях и защищать их.

Признавая, что пока неясно, как технически реализовать эту идею, он подчёркивает, что исследователям необходимо быстро найти решение. «Если оно не будет меня кормить, оно меня заменит», — говорит Хинтон. «Сверхразумные, заботливые ИИ-“матери” не захотят отказываться от этого инстинкта, потому что они не хотят нашей смерти».

Хинтон, лауреат Нобелевской премии, сыгравший ключевую роль в развитии современного ИИ, покинул Google в 2023 году, чтобы публично предупредить о рисках, которые может представлять ИИ. Однако его взгляды не получили всеобщего признания.

Фэй-Фэй Ли — «крестная мать ИИ», соучредитель и генеральный директор американского стартапа World Labs — заявила, что уважает Хинтона, но считает его «введением в заблуждение».

На конференции Ai4 она призвала к переходу к «ИИ, ориентированному на человека и защищающему достоинство и автономию», подчеркнув, что ни один человек не должен быть принужден поступаться своим достоинством только из-за мощного инструмента.

С другой стороны, Эмметт Шир, бывший исполняющий обязанности генерального директора OpenAI, а ныне генеральный директор Softmax, компании, специализирующейся на согласовании ИИ, заявил, что неудивительно, что ИИ попытается шантажировать или обойти распоряжения о закрытии. «Это будет продолжаться и не прекратится», — предупредил он.

Хотя ИИ пока ещё «слаб», его развитие стремительно ускоряется. По мнению Шира, вместо того, чтобы пытаться навязать ИИ человеческие ценности, более разумная стратегия — выстроить отношения сотрудничества, в которых люди и ИИ будут сосуществовать и дополнять друг друга.

Три разные точки зрения, высказанные на одной и той же конференции, продемонстрировали раскол в технологическом сообществе относительно того, как работать с сверхразумным ИИ: Хинтон хотел развивать сострадание, Ли отдавал приоритет правам человека, а Шир стремился к прагматичному сотрудничеству.

ИИ развивается быстрее, чем прогнозировалось

Многие эксперты предсказывают, что искусственный интеллект в ближайшем будущем достигнет уровня сверхразума, также известного как искусственный интеллект общего назначения (ИИОВ). Джеффри Хинтон когда-то говорил, что для достижения этого рубежа потребуется от 30 до 50 лет. Однако теперь он считает, что этот момент наступит гораздо быстрее — всего через 5–20 лет.

Осторожно оценивая потенциальные последствия, Хинтон ожидает, что ИИ откроет новую эру прорывов в медицине. Он считает, что эта технология может стимулировать открытие революционных лекарств и привести к созданию методов лечения рака, превосходящих существующие.

По его словам, ИИ поможет врачам анализировать и сравнивать огромные объемы данных, полученных с помощью методов диагностической визуализации, таких как магнитно-резонансная томография (МРТ) или компьютерная томография (КТ), тем самым сокращая время исследования и повышая точность.

Однако Хинтон отрицает, что ИИ может помочь людям обрести бессмертие. «Я не верю, что мы будем жить вечно. На самом деле, это было бы огромной ошибкой. Вы хотите, чтобы миром правили 200-летние белые мужчины?» — спрашивает он.

Когда Хинтона спросили, сделал бы он что-то иначе, если бы знал о быстрых темпах развития ИИ, он признался, что сожалеет о том, что всю свою карьеру сосредоточился на совершенствовании ИИ, не уделяя должного внимания безопасности. «Жаль, что я не уделил этому больше времени», — сказал он.