Facebook est sur le point d’apporter de grands changements pour empêcher les publications extrémistes ?

Photo d'illustration. Source : AFP

Facebook a annoncé le 17 septembre une série de changements visant à limiter les discours de haine et l'extrémisme sur les réseaux sociaux, a élargi la définition des organisations terroristes et a prévu de déployer l'intelligence artificielle pour détecter et bloquer les vidéos en direct de fusillades de masse.

L'entreprise de médias sociaux développe également un programme qui redirige les utilisateurs à la recherche de contenu extrémiste vers des pages gérées par des organisations qui aident à éliminer les discours de haine.

Cette annonce intervient la veille d'une audition au Congrès sur la gestion des contenus violents par Facebook, Google et Twitter. Les législateurs américains devraient interroger les responsables des réseaux sociaux sur leur gestion des publications extrémistes.

Facebook, le plus grand réseau social au monde, subit d'intenses pressions pour limiter la diffusion de messages, d'images et de vidéos haineux sur son site. Le réseau social a également été vivement critiqué pour n'avoir pas détecté ni supprimé la vidéo en direct du massacre de 51 personnes à Christchurch, en Nouvelle-Zélande.

Lors d'au moins trois fusillades de masse survenues cette année, dont une à Christchurch, des projets de violence avaient été annoncés à l'avance sur 8chan, un forum en ligne. Les législateurs fédéraux américains ont interrogé les propriétaires de 8chan ce mois-ci.

Dans son annonce, Facebook a déclaré que la tragédie de Christchurch avait fortement influencé les mises à jour de ses pratiques de modération de contenu.

Facebook a également déclaré avoir récemment élaboré un plan avec Microsoft, Twitter, Google et Amazon pour lutter contre la manière dont la technologie est utilisée pour diffuser du contenu terroriste.

Facebook vante depuis longtemps sa capacité à filtrer les contenus liés au terrorisme sur sa plateforme. Au cours des deux dernières années, le réseau social affirme avoir pu détecter et supprimer 99 % des publications extrémistes, soit environ 26 millions de contenus, avant même qu'elles ne soient signalées.

L’équipe qui travaille sur la lutte contre l’extrémisme sur Facebook compte désormais 350 personnes, dont des experts en application de la loi, en sécurité nationale, en contre-terrorisme et des universitaires qui étudient l’extrémisme.

Pour détecter davantage de contenus nuisibles dans le monde réel, Facebook a déclaré qu'il mettait à jour son intelligence artificielle pour mieux filtrer les vidéos violentes en direct dans les premiers instants de leur mise en ligne.

Le plus grand réseau social au monde a déclaré avoir travaillé avec les forces de l'ordre américaines et britanniques pour obtenir des images de caméras provenant de programmes de formation à la lutte contre le terrorisme afin d'aider ses systèmes d'intelligence artificielle à comprendre à quoi ressemblent réellement les événements violents.

Depuis mars, Facebook redirige également les utilisateurs recherchant des termes liés au « pouvoir blanc » vers des ressources comme Life After Hate, une organisation fondée par d'anciens extrémistes violents pour intervenir en cas de crise et apporter une aide. Suite à la tragédie de Christchurch, Facebook étend cette fonctionnalité à l'Australie et à l'Indonésie.