Миллиардер Илон Маск и ведущие мировые эксперты в области искусственного интеллекта призывают приостановить разработку систем искусственного интеллекта следующего поколения.
(Baonghean.vn) - В открытом письме, в котором упоминаются потенциальные риски для общества и человечества, миллиардер Илон Маск и группа ведущих экспертов в области искусственного интеллекта и руководителей технологических компаний призвали к шестимесячной паузе в разработке систем ИИ следующего поколения.
В письме, опубликованном некоммерческой организацией Future of Life Institute и подписанном более 1000 человек, включая миллиардера Илона Маска, руководителя компании Tesla, содержится призыв приостановить разработку передовых систем искусственного интеллекта до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких конструкций.
 |
Иллюстрация фото. |
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их воздействие будет положительным, а связанные с ними риски — управляемыми. Текущая гонка за разработкой систем искусственного интеллекта опасна и требует создания независимых регулирующих органов для обеспечения безопасного развертывания будущих систем», — говорится в письме.
В письме подробно описываются потенциальные риски для общества и человеческой цивилизации, которые системы искусственного интеллекта конкурируют с людьми, влияют на экономику и политику, а также содержится призыв к разработчикам сотрудничать с политиками и регулирующими органами.
«Мы призываем все лаборатории ИИ немедленно приостановить обучение систем ИИ, мощнее GPT-4, как минимум на шесть месяцев. Эта пауза должна быть публичной и поддающейся проверке. Если такую паузу невозможно ввести быстро, правительствам следует вмешаться и ввести мораторий», — говорится в письме.
«Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения общего набора протоколов безопасности для передового проектирования и разработки ИИ, тщательно протестированных и отслеживаемых независимыми внешними экспертами», — говорится в письме.
Среди подписавших письмо значатся соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллинн, политик Эндрю Янг, генеральный директор Stability AI Эмад Мостак, исследователи исследовательской компании ИИ DeepMind (принадлежит Alphabet), а также несколько известных исследователей и генеральных директоров в области ИИ, включая Стюарта Рассела, Йошуа Бенджио, Гэри Маркуса и Эмада Мостака.
Ранее, 27 марта, Полицейское агентство Европейского союза (Европол) также выразило обеспокоенность этическими и правовыми проблемами, связанными с такими передовыми системами, как ChatGPT. Агентство предупредило о возможности использования искусственного интеллекта для мошенничества, распространения ложной информации и других киберпреступлений.
С момента своего выпуска в конце прошлого года поддерживаемый Microsoft OpenAI ChatGPT спровоцировал гонку за разработку крупных языковых моделей и интеграцию ИИ в продукты и услуги.
Представитель Future of Life сообщил, что Сэм Альтман, генеральный директор и основатель OpenAI, не подписывал письмо.
По этому поводу Гэри Маркус, профессор Нью-Йоркского университета (США), подписавший письмо, заявил: «Письмо не охватывает всего содержания, но выражает общее мнение о том, что людям следует сбавить обороты, пока не будет лучше изучено воздействие ИИ. Системы могут причинить серьёзный вред, когда крупные компании в области ИИ всё больше скрывают свои разработки. Это затрудняет для общества противодействие любому возможному ущербу».
В соответствии с
1.https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/
2.https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter