12 главных проблем, которые искусственный интеллект создает для человечества.

В начале декабря 2023 года в Сингапуре собрались 40 делегатов со всего мира, включая разработчиков, исследователей и политиков, на конференцию для обсуждения актуальных вопросов, связанных с развитием технологий искусственного интеллекта.

Здесь эксперты в области технологий рассмотрели множество существующих проблем и спорных вопросов, возникших с появлением в последние годы искусственного интеллекта, обладающего человекоподобными способностями. Мнения этих экспертов послужат ориентиром для определения целей исследований и принятия политических решений в области развития ИИ во всем мире.

Ниже представлен список из 12 главных проблем, которые искусственный интеллект представляет для человечества, составленный по итогам трехдневной конференции мировых экспертов, состоявшейся в Сингапуре.

1. Можно ли доверять ИИ?

Системы искусственного интеллекта все чаще используются для оказания помощи людям в принятии важных решений, однако современные системы ИИ иногда «создают иллюзии» и дают неточные результаты. Надежность отражает способность системы или ее компонентов выполнять свои предназначенные функции в определенных условиях и в течение определенного периода времени.

Надежность особенно важна для обеспечения того, чтобы системы искусственного интеллекта не приводили к негативным последствиям при применении в беспилотных автомобилях или при принятии решений в ходе хирургических операций.

Делегаты согласились с тем, что систему ИИ необходимо тестировать в сценариях, максимально приближенных к задачам, которые она будет выполнять в реальной жизни, и что разработчики должны создавать инструменты ИИ, которые ориентируются не только на статистические показатели. Также необходимо разработать стандартизированные критерии для оценки надежности моделей ИИ.

2. Нам необходимо создать качественный набор данных для моделей искусственного интеллекта.

Мощные модели ИИ опираются на большие наборы данных, которые позволяют им проводить точный анализ и принимать решения. Однако создание качественных наборов данных, поддерживающих полезный ИИ, представляет собой сложную задачу, особенно когда данные являются конфиденциальными и защищены из-за соображений конфиденциальности.

Для достижения этого баланса необходимо, чтобы нормативные акты стимулировали создание и передачу данных, обеспечивали высокое качество баз данных и гарантировали безопасный обмен данными.

3. Убьет ли нас искусственный интеллект?

Среди наиболее катастрофических сценариев, перечисленных в списке, ИИ потенциально может вызвать глобальные угрозы, такие как глобальное потепление или ядерный геноцид с участием ИИ. Делегаты отметили, что широкомасштабный социальный вред и киберпреступность с участием ИИ уже происходят, а экономический коллапс, вызванный ИИ, вполне возможен в ближайшем будущем.

Страны должны установить четкие предупреждающие сигналы в различных секторах, разработчики должны подвергаться тщательному контролю, а критически важные системы должны проходить стресс-тестирование перед интеграцией с ИИ.

4. Необходимы ли строгие меры для контроля за развитием ИИ?

Законодательство должно идти в ногу со временем, чтобы риски, связанные с ИИ, не оставались незамеченными, поскольку нынешняя политика не учитывает эти риски. Власти также должны разработать механизмы сообщения о нарушениях и четко определить, кто несет ответственность за риски, связанные с ИИ.

Регулирующие органы также должны найти баланс, чтобы регулирование не подавляло инновации, и разработать механизмы, определяющие, когда следует вмешиваться в законодательную деятельность для борьбы с искусственным интеллектом.

5. Разработка ИИ для научных исследований.

Искусственный интеллект играет ключевую роль в решении некоторых из самых сложных проблем человечества и обладает потенциалом для разработки лекарств и создания инструментов для борьбы с изменением климата, что, по мнению делегатов, должно стать приоритетной задачей для разработчиков ИИ на благо человечества.

Развитие искусственного интеллекта для научных исследований имеет чрезвычайно важное значение и требует содействия путем расширения сотрудничества между странами и международными организациями в целях обмена финансированием и знаниями.

6. Способен ли ИИ учиться подобно человеку?

Искусственный интеллект способен очень быстро всему научиться, становясь все более «умным» и лучше удовлетворяя человеческие потребности; однако, в конечном счете, машины все еще не могут понимать то, чему они научились, или мыслить подобно людям.

В настоящее время ни одна система искусственного интеллекта не обладает способностью к естественному обучению, подобному человеческому. Человеческий мозг более адаптивен и отзывчив, чем любая система ИИ. Хотя ИИ может автоматизировать многие задачи и процессы, по-прежнему существует множество профессий, требующих креативности, гибкости и способности принимать сложные решения, основываясь на интуиции и опыте — качествах, уникальных для человека.

Системы искусственного интеллекта лишены творческого потенциала людей; они могут работать только в рамках получаемых данных. Следовательно, они не могут разрабатывать новые способы, стили или модели работы и ограничены определенными шаблонами, созданными людьми.

С другой стороны, люди обладают исключительно развитыми аналитическими способностями, умеют получать информацию из различных источников и находить решения сложных проблем, имея мало данных или вовсе без них. Поскольку ИИ не обладает способностью к исключительно развитым аналитическим способностям и генерации инновационных идей, он не может заменить людей на рабочем месте.

7. В чём ценность ИИ?

Прогнозируется, что искусственный интеллект продолжит свой стремительный рост в будущем, чему будут способствовать достижения в области технологий и алгоритмов. Он станет все более интеллектуальным и гибким, и сможет применяться в самых разных областях, от медицины и образования до производства, бизнеса и научных исследований. Кроме того, мы также увидим развитие систем совместного ИИ, где несколько систем ИИ будут работать вместе для решения сложных задач.

Искусственный интеллект будет продолжать развиваться и станет неотъемлемой частью жизни в будущем, поэтому понимание и эффективное использование ИИ являются ключом к прогрессу и процветанию в этом все более цифровизированном мире.

8. Конкуренция и равный доступ

Технологии искусственного интеллекта, как правило, разрабатываются крупными коммерческими корпорациями по всему миру. Эксперты в области технологий утверждают, что такая концентрация технологий ИИ в руках этих корпораций, ориентированных на прибыль, может повлиять на цену и качество систем ИИ и потенциально ограничить доступ к ИИ для определенных групп населения.

Для содействия более справедливой конкуренции делегаты призвали к снижению барьеров для входа на рынок с целью стимулирования развития систем искусственного интеллекта. Они также предложили регулировать деятельность поставщиков ИИ аналогично регулированию деятельности поставщиков телекоммуникационных услуг и коммунальных предприятий.

9. Искусственный интеллект, используемый для обучения

Появление искусственного интеллекта открыло новую эру в образовании, изменив способы обучения и проведения исследований. ИИ может помочь сделать обучение более персонализированным, эффективным и увлекательным.

Одним из наиболее значительных преимуществ ИИ в обучении является персонализация. Системы на базе ИИ могут анализировать стиль обучения учащегося, его сильные и слабые стороны и соответствующим образом адаптировать учебные материалы. Такой персонализированный подход позволяет учащимся учиться в собственном темпе, повышая уверенность в себе и улучшая результаты обучения.

Кроме того, системы искусственного интеллекта позволяют родителям получать мгновенную обратную связь об успеваемости своих детей. ИИ также может выполнять такие задачи, как выставление оценок, помощь ученикам в учебе и даже репетиторство. Системы ИИ могут быть запрограммированы на предоставление экспертных знаний, платформы для студентов, где они могут задавать вопросы и искать информацию. Учителя могут выступать в качестве посредников, когда у студентов возникают трудности, обеспечивая личное взаимодействие.

Однако для достижения этих преимуществ системы искусственного интеллекта должны быть по-настоящему надежными, а предоставляемые им наборы данных должны быть высокоточными и постоянно обновляться.

10. Пресечение распространения фейковых новостей

Инструменты для написания текстов и генераторы изображений значительно затруднили обнаружение дезинформации, созданной искусственным интеллектом. Дезинформация может быстро распространяться через платформы социальных сетей.

Делегаты призвали к поиску способов выявления источников информации в интернете и к тому, чтобы обязать платформы социальных сетей отслеживать свои каналы. Необходимо обучать алгоритмы на языках, отличных от английского, для точного обнаружения дезинформации на глобальных платформах.

11. Разработка ИИ на благо общества.

Развитие ИИ должно приносить пользу всем, что требует гарантий, основанных на правах человека, прозрачности и подотчетности.

Делегаты призвали представителей некоммерческих организаций, правительств и социальных предприятий выступить с докладами, способствующими оценке социального воздействия технологий искусственного интеллекта. Разработчикам ИИ не следует спешить с внедрением технологий, а необходимо тщательно оценивать их влияние и избегать неэффективных инвестиций.

12. Стандарты безопасности

В настоящее время страны и международные организации еще не пришли к согласию относительно стандартов тестирования безопасности ИИ в процессе его разработки. Эти стандарты включают оценку потенциальных угроз безопасности, а также потенциального экономического или психологического вреда.

Делегаты призвали к глобальному сотрудничеству в разработке стандартов безопасности для систем искусственного интеллекта, чтобы обеспечить полное раскрытие потенциала ИИ, предотвращая при этом и смягчая вред.