Миллиардер Илон Маск и ведущие мировые эксперты в области искусственного интеллекта призывают приостановить разработку систем искусственного интеллекта следующего поколения.

В письме, опубликованном некоммерческой организацией Future of Life Institute и подписанном более 1000 человек, включая миллиардера Илона Маска, руководителя компании Tesla, содержится призыв приостановить разработку передовых систем искусственного интеллекта до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких конструкций.

Иллюстрация фото.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены в их положительном влиянии и в том, что связанные с ними риски можно контролировать. Текущая гонка за разработкой систем искусственного интеллекта опасна и требует создания независимых регулирующих органов для обеспечения безопасного развертывания будущих систем», — говорится в письме.

В письме подробно описываются потенциальные риски для общества и человеческой цивилизации, которые системы искусственного интеллекта конкурируют с людьми, влияют на экономику и политику, а также содержится призыв к разработчикам сотрудничать с политиками и регулирующими органами.

«Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на шесть месяцев обучение систем искусственного интеллекта, более мощных, чем GPT-4. Эта приостановка должна быть публичной и поддающейся проверке. Если такую ​​приостановку невозможно осуществить быстро, правительствам следует вмешаться и ввести мораторий», — говорится в письме.

«Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения общего набора протоколов безопасности для передового проектирования и разработки ИИ, тщательно протестированных и отслеживаемых независимыми внешними экспертами», — говорится в письме.

Среди подписавших письмо значатся соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллинн, политик Эндрю Янг, генеральный директор Stability AI Эмад Мостак, исследователи из исследовательской компании ИИ DeepMind, принадлежащей Alphabet, а также несколько известных исследователей и генеральных директоров в области ИИ, включая Стюарта Рассела, Йошуа Бенджио, Гэри Маркуса и Эмада Мостака.

Ранее, 27 марта, Европол также выразил обеспокоенность этическими и правовыми проблемами, связанными с такими передовыми системами, как ChatGPT. Агентство предупредило о возможности использования искусственного интеллекта для мошенничества, распространения дезинформации и других киберпреступлений.

С момента своего выпуска в конце прошлого года платформа ChatGPT, разработанная при поддержке Microsoft OpenAI, положила начало гонке за разработку крупных языковых моделей и интеграцию ИИ в продукты и услуги.

Представитель Future of Life сообщил, что Сэм Альтман, генеральный директор и основатель OpenAI, не подписал письмо.

По этому поводу Гэри Маркус, профессор Нью-Йоркского университета (США), подписавший письмо, сказал: «Письмо не охватывает всего содержания, но в нём выражен общий настрой: людям следует замедлить темпы развития, пока не будет лучше изучено воздействие ИИ. Эти системы могут нанести серьёзный вред, когда крупные компании в сфере ИИ всё больше скрывают свои разработки. Это затрудняет для общества противодействие возможному ущербу».

В соответствии с

1.https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/

2.https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter