Риск манипулирования людьми со стороны искусственного интеллекта

Эксперты предупреждают, что искусственный интеллект может интерпретировать активность человеческого мозга и действовать против воли пользователя.

Учёные опасаются, что искусственный интеллект представляет опасность для человечества. Фото: Meetup.

Как сообщил журнал Newsweek 8 ноября, многие эксперты предупреждают об опасности того, что интерфейсы «мозг-компьютер» (ИМК) могут попасть под контроль искусственного интеллекта, что означает, что человеческие мысли, решения и эмоции могут быть реализованы искусственным интеллектом против воли пользователя.

Группа из 27 нейробиологов, специалистов по этике и инженеров искусственного интеллекта рассмотрела эти вопросы в научном журнале Nature. В статье представлен гипотетический пример парализованного человека, использующего прототип BCI, который декодирует нейронную активность мозга для управления роботизированной рукой.

Если в какой-то момент этот человек почувствует себя некомфортно в присутствии ученых, искусственный интеллект может прочитать его мысли и нанести им вред, не получая никаких прямых приказов.

Технологический прогресс означает, что люди приближаются к эпохе, когда станет возможным расшифровывать мыслительную деятельность и напрямую контролировать мозговые механизмы, лежащие в основе человеческих намерений, эмоций и решений, пишут исследователи.

В это время люди будут общаться друг с другом только посредством мыслей, мощные компьютерные системы, подключенные напрямую к мозгу человека, облегчат взаимодействие с окружающим миром, физические и умственные способности значительно возрастут.

Исследовательская группа предлагает предотвращать негативные ситуации, вызванные искусственным интеллектом, следуя четырем этическим приоритетам: конфиденциальность и согласие, согласованность между телом и разумом и возможность выбора действий, вмешательства, которые улучшают физические или умственные способности человека, и предубеждения, которые приводят к сексистскому или расистскому поведению.

Несколько компаний работают над той или иной формой BCI-технологий, включая Neuralink, основанную миллиардером Илоном Маском в начале этого года. Neuralink разрабатывает беспроводной нейрокомпьютерный интерфейс, который может загружать и выгружать информацию с компьютера для повышения интеллекта человека.

По мнению исследовательской группы, если потенциал этой технологии будет реализован, человечество сможет вступить в новую технологическую эру. Однако для того, чтобы технология приносила пользу, а не вред, необходимо учитывать четыре вышеперечисленных этических приоритета.

По данным VNE