YouTube ajoute de nouvelles règles pour lutter contre la violence en ligne

Les nouvelles règles de YouTube ciblent une tendance inquiétante dans les contenus criminels violents en ligne, où l'intelligence artificielle (IA) est utilisée pour créer des scènes de violence réalistes qui représentent spécifiquement les abus ou les violences subis par les victimes, y compris les enfants.

Certaines vidéos utilisent des voix d'enfants pour illustrer des actes de violence survenus dans des affaires très médiatisées. Les familles des victimes qui y apparaissent ont vivement protesté contre ce contenu, le qualifiant d'« abominable ».

Les nouvelles règles de YouTube empêcheront la diffusion de contenus préjudiciables sur les chaînes publiques et limiteront l'expérience des utilisateurs sur sa plateforme. Ces mesures seront progressivement renforcées en fonction de la fréquence des infractions commises par les propriétaires des chaînes.

En cas de première infraction au règlement, YouTube limitera la possibilité pour un utilisateur de mettre en ligne des vidéos pendant une semaine. Si l'infraction récidive dans les 90 jours, la sanction sera alourdie et la chaîne pourra être supprimée.

Ces derniers mois, les plateformes sociales, dont YouTube, ont introduit des outils de création de contenu basés sur l'IA, et avec eux de nouvelles règles visant à éviter le risque de création de contenu susceptible de semer la confusion chez les utilisateurs.

TikTok exige désormais que les créateurs étiquettent correctement leur contenu généré par l'IA, tandis que YouTube a annoncé des règles strictes concernant les transcriptions vocales des musiciens générées par l'IA et un ensemble de règles plus large pour d'autres sujets.