Предупреждение о рисках искусственного интеллекта для детей

Иллюстрация фото. (Источник: Robogenius)

Искусственный интеллект (ИИ) становится «лихорадкой» в мире технологий, особенно после того, как компания OpenAI выпустила инструменты ChatGPT и GPT-4.

Эта передовая технология демонстрирует потенциал для изменения жизни многих работников, но также считается «палкой о двух концах», особенно для детей.

Детский фонд ООН (ЮНИСЕФ) и Всемирный экономический форум опубликовали доклад, предупреждающий о рисках для детей, связанных с искусственным интеллектом, включая конфиденциальность, безопасность, психологическое и поведенческое воздействие. Источником этих рисков могут быть социальные сети.

Алгоритмы на основе искусственного интеллекта изучают и сохраняют информацию, которую ищут и с которой взаимодействуют дети или другие люди, даже если этот контент может быть вреден для них или окружающих. Хотя социальные сети и приняли меры для предотвращения этого риска, он не был полностью устранен.

Дети также могут быть более небрежны при обмене личной информацией в интернете, что делает их уязвимыми к утечкам данных. В докладе также предполагается, что ИИ может усугубить неравенство и предвзятость.

Например, школы, которые используют искусственный интеллект и технологии машинного обучения для сортировки заявлений учащихся, могут непреднамеренно, но систематически исключать определенные группы абитуриентов.

Сет Бергесон, научный сотрудник Всемирного экономического форума, приводит аналогичный пример. В Великобритании новый алгоритм искусственного интеллекта неверно оценил результаты экзаменов GCE, разрушив надежды многих студентов на поступление в ведущие университеты.

Эксперты также затронули вопрос автономности и принятия решений, заявив, что ИИ настолько тесно связан с жизнью, что сложно не зависеть от этой технологии.

Эксперты утверждают, что ключ к предотвращению и снижению рисков — это образование. Дети должны понимать, как работают эти технологии, чтобы понимать их преимущества, потенциальные риски и то, как эффективно их использовать.

Профессор Эйми Раундтри из Техасского государственного университета подчёркивает необходимость обучать детей основам искусственного интеллекта простым и понятным языком. Также полезным является практическое обучение с помощью программного обеспечения, которое помогает пользователям наглядно изучать алгоритмы и технологии искусственного интеллекта.

Другие эксперты утверждают, что важно не только понимать ИИ, но и уметь с ним взаимодействовать. Это включает в себя развитие таких навыков, как критическое мышление и креативность, которые могут дополнять ИИ, а также решение таких проблем, как чрезмерная зависимость от ИИ при принятии решений.

Прежде всего, эксперты подчеркивают необходимость обучения детей ответственному использованию ИИ и безопасному и этичному его использованию.

Г-н Бержесон отметил, что дети и подростки должны понимать, что искусственный интеллект имеет ограничения, множество серьёзных недостатков и может давать предвзятые и предвзятые результаты. Молодых людей необходимо учить критически мыслить и решать, как и в какой степени использовать модели искусственного интеллекта.