Facebook готовится внести серьезные изменения для предотвращения публикаций экстремистского характера?

Иллюстрация. Источник: AFP

17 сентября Facebook объявил о ряде изменений, направленных на ограничение разжигания ненависти и экстремизма в социальных сетях, расширил определение террористических организаций и планирует внедрить искусственный интеллект для обнаружения и блокировки прямых трансляций массовых расстрелов.

Социальная сеть также расширяет программу, которая перенаправляет пользователей, ищущих экстремистский контент, на страницы организаций, которые помогают бороться с разжиганием ненависти.

Объявление было сделано за день до слушаний в Конгрессе, посвящённых тому, как Facebook, Google и Twitter справляются с жестоким контентом. Ожидается, что американские законодатели допросят руководителей социальных сетей о том, как они обращаются с публикациями экстремистов.

Facebook, крупнейшая в мире социальная сеть, подвергается серьёзному давлению, связанному с необходимостью ограничить распространение оскорбительных сообщений, изображений и видео на своём сайте. Социальная сеть также подверглась резкой критике за то, что не обнаружила и не удалила прямую трансляцию убийства 51 человека в Крайстчерче, Новая Зеландия.

Как минимум в трёх случаях массовых расстрелов в этом году, включая один в Крайстчерче, планы расправы были заранее объявлены на онлайн-форуме 8chan. В этом месяце федеральные законодатели США допросили владельцев 8chan.

В своем сообщении Facebook заявил, что трагедия в Крайстчерче оказала значительное влияние на обновления его методов модерации контента.

Facebook также заявила, что недавно разработала план совместно с Microsoft, Twitter, Google и Amazon по борьбе с использованием технологий для распространения террористического контента.

Facebook давно рекламирует свою способность фильтровать контент, связанный с терроризмом, на своей платформе. По данным социальной сети, за последние два года ей удалось обнаружить и удалить 99% экстремистских публикаций — около 26 миллионов единиц контента — до того, как на них поступит жалоба.

Команда, работающая над противодействием экстремизму в Facebook, выросла до 350 человек, включая экспертов в области правоохранительной деятельности, национальной безопасности, борьбы с терроризмом, а также ученых, изучающих экстремизм.

Facebook заявила, что для обнаружения большего количества вредоносного контента в реальном мире она обновляет свой искусственный интеллект для более эффективной фильтрации жестоких видео в прямом эфире в первые моменты трансляции.

Крупнейшая в мире социальная сеть заявила, что сотрудничала с представителями правоохранительных органов США и Великобритании с целью получения записей с камер, снятых в рамках программ подготовки по борьбе с терроризмом, чтобы помочь своим системам искусственного интеллекта понять, как на самом деле выглядят насильственные события.

С марта Facebook также перенаправляет пользователей, ищущих запросы, связанные с «силой белых», на такие ресурсы, как Life After Hate — организация, основанная бывшими воинствующими экстремистами для оказания помощи в кризисных ситуациях и поддержки. В связи с трагедией в Крайстчерче Facebook расширяет эту функцию на Австралию и Индонезию.