Предупреждение о рисках искусственного интеллекта для детей

Иллюстрация фото. (Источник: Robogenius)

Искусственный интеллект (ИИ) становится «лихорадкой» в мире технологий, особенно после того, как компания OpenAI выпустила инструменты ChatGPT и GPT-4.

Эта передовая технология потенциально способна изменить жизнь многих работников, но ее также считают «палкой о двух концах», особенно для детей.

Детский фонд ООН (ЮНИСЕФ) и Всемирный экономический форум опубликовали доклад, предупреждающий о рисках для детей, связанных с искусственным интеллектом, включая конфиденциальность, безопасность, психологическое и поведенческое воздействие. Источником этих рисков могут быть социальные сети.

Алгоритмы на основе искусственного интеллекта изучают и сохраняют контент, который ищут и с которым взаимодействуют дети или другие люди, даже если этот контент может быть вреден для них или окружающих. Хотя социальные сети приняли множество мер для предотвращения этого риска, полностью исключить его всё ещё невозможно.

Дети также могут быть менее осторожны, делясь личной информацией в интернете, что делает их более уязвимыми к утечкам данных. В докладе также предполагается, что ИИ может усугубить неравенство и предвзятость.

Например, школы, которые используют технологии искусственного интеллекта и машинного обучения для сортировки заявлений учащихся, могут непреднамеренно, но систематически исключать определенные группы абитуриентов.

Сет Бергесон, научный сотрудник Всемирного экономического форума, приводит аналогичный пример. В Великобритании новый алгоритм искусственного интеллекта неверно оценил результаты экзаменов GCE, разрушив надежды многих студентов на поступление в ведущие университеты.

Эксперты также затронули вопрос автономности и принятия решений, по мнению которых ИИ настолько тесно связан с жизнью, что сложно не зависеть от этой технологии.

Эксперты утверждают, что ключ к предотвращению и снижению рисков — это образование. Дети должны понимать, как работают эти технологии, чтобы понимать их преимущества, потенциальные риски и то, как эффективно их использовать.

Профессор Техасского государственного университета Эйми Раундтри подчёркивает необходимость обучать детей основам искусственного интеллекта простым и понятным языком. Также полезным подходом является практическое обучение с помощью программного обеспечения, которое помогает пользователям наглядно изучать алгоритмы и технологии искусственного интеллекта.

Другие эксперты утверждают, что важно не только понимать ИИ, но и уметь с ним взаимодействовать. Это включает в себя развитие таких навыков, как критическое мышление и креативность, которые могут дополнять ИИ, а также решение таких проблем, как чрезмерная зависимость от ИИ при принятии решений.

Прежде всего, эксперты подчеркивают необходимость обучения детей ответственному использованию ИИ и безопасному и этичному его использованию.

Бержесон отметил, что дети и молодёжь должны понимать, что ИИ имеет ограничения, серьёзные недостатки и может приводить к предвзятым и предвзятым результатам. Молодёжь необходимо учить критически мыслить и решать, как и в какой степени использовать модели ИИ.