«Отец ИИ» раскрывает единственный способ выживания человечества в борьбе со сверхразумным ИИ

Джеффри Хинтон, лауреат Нобелевской премии по информатике и бывший руководитель Google, давно предупреждал, что искусственный интеллект (ИИ) представляет потенциальную угрозу человечеству, вероятность которой он оценивает в 10–20%.

Выступая на технологической конференции Ai4 в Лас-Вегасе (США) 12 августа, Хинтон выразил скептицизм относительно того, как технологические корпорации пытаются сохранить «доминирование» человека над системами ИИ, которые они называют «скромными».

«Это не сработает», — сказал он. «Они гораздо умнее нас и найдут способы обойти барьер».

По словам Хинтона, в будущем ИИ сможет манипулировать людьми так же легко, как взрослый может соблазнить трёхлетнего ребёнка конфетой. Более того, были тревожные примеры, например, когда модель ИИ пыталась шантажировать инженера, выманивая у него личную информацию из электронных писем, чтобы избежать замены. По словам Хинтона, это показывает, что ИИ может безоговорочно обманывать, мошенничать и красть ради достижения своих целей.

Вместо того чтобы пытаться заставить ИИ подчиняться, Хинтон предлагает смелое решение: запрограммировать ИИ на «материнские инстинкты», способность заботиться о людях и защищать их, даже когда они становятся умнее и сильнее.

Он проанализировал, что любая достаточно интеллектуальная система искусственного интеллекта быстро сформирует две «вторичные цели»: выживание и контроль. Без развития сострадания в ИИ эти две цели могут превратиться в серьёзные угрозы.

Хинтон сравнивает, что в человеческом мире единственным примером доминирования более разумной сущности над менее разумной сущностью являются отношения между матерью и ее ребенком.

«У матерей есть инстинкт и социальное давление, заставляющие их заботиться о своих детях, и это заставляет их всегда ставить их интересы на первое место», — подчеркнул он. По словам Хинтона, это может быть единственным ключом к выживанию человечества в эпоху сверхразумного искусственного интеллекта.

Единственный возможный сценарий

Джеффри Хинтон, пионер в области искусственных нейронных сетей, считает, что «единственно хорошим результатом» для человечества, чтобы выжить среди сверхразумного ИИ, является программирование его на материнские инстинкты, чтобы заботиться о людях и защищать их.

Признавая, что пока неясно, как технически реализовать эту идею, он подчёркивает, что исследователям необходимо быстро найти решение. «Если оно меня не накормит, оно меня заменит», — говорит Хинтон. «Сверхразумные, заботливые матери-ИИ не захотят отказываться от этого инстинкта, потому что они не хотят нашей смерти».

Хинтон, лауреат Нобелевской премии, сыгравший ключевую роль в развитии современного ИИ, покинул Google в 2023 году, чтобы публично предупредить об опасностях, которые может представлять ИИ. Однако его взгляды не совсем единодушны.

Фэй-Фэй Ли — «крёстная мать ИИ», соучредитель и генеральный директор американского стартапа World Labs заявила, что уважает Хинтона, но считает его «введением в заблуждение».

На конференции Ai4 она призвала к переходу к «ИИ, ориентированному на человека и защищающему достоинство и автономию», подчеркнув, что ни один человек не должен быть принужден поступаться своим достоинством только из-за мощного инструмента.

С другой стороны, Эмметт Шир, бывший исполняющий обязанности генерального директора OpenAI, а ныне генеральный директор Softmax, компании, специализирующейся на согласовании ИИ, заявил, что неудивительно, что ИИ попытается шантажировать или обойти распоряжения о закрытии. «Это будет продолжаться и не прекратится», — предупредил он.

Хотя ИИ пока ещё «слаб», его развитие ускоряется. По словам Шира, вместо того, чтобы пытаться навязать ИИ гуманистические ценности, более разумная стратегия — выстроить отношения сотрудничества, в которых люди и ИИ будут сосуществовать и дополнять друг друга.

Три разных взгляда на одной и той же конференции продемонстрировали раскол в технологическом сообществе по вопросу о том, как работать с сверхразумным ИИ: Хинтон хотел развивать сострадание, Ли отдавал приоритет правам человека, а Шир стремился к прагматичному сотрудничеству.

ИИ развивается быстрее, чем прогнозировалось

Многие эксперты предсказывают, что искусственный интеллект в ближайшем будущем достигнет уровня сверхразума, также известного как искусственный интеллект общего назначения (ИИОВ). Джеффри Хинтон когда-то говорил, что для достижения этого рубежа потребуется от 30 до 50 лет. Однако теперь он считает, что это время наступит гораздо раньше — всего через 5–20 лет.

Осторожно оценивая потенциальные последствия, Хинтон надеется, что ИИ откроет новую эру прорывов в медицине. Он считает, что эта технология может стимулировать открытие революционных лекарств и привести к созданию методов лечения рака, превосходящих существующие.

По его словам, ИИ поможет врачам анализировать и сравнивать огромные объемы данных, полученных с помощью методов диагностической визуализации, таких как магнитно-резонансная томография (МРТ) или компьютерная томография (КТ), тем самым сокращая время исследования и повышая точность.

Однако Хинтон отрицает, что ИИ поможет людям обрести бессмертие. «Я не верю, что мы будем жить вечно. На самом деле, это было бы огромной ошибкой. Вы хотите, чтобы миром правили 200-летние белые мужчины?» — спрашивает он.

Когда Хинтона спросили, сделал бы он что-то иначе, если бы знал о быстрых темпах развития ИИ, он признался, что сожалеет о том, что всю свою карьеру сосредоточился на совершенствовании ИИ и недостаточно думал о безопасности. «Жаль, что я не уделял этому больше времени», — сказал он.