Roblox renforce la vérification de l'âge des enfants grâce à l'IA

Roblox renforce la vérification de l'âge

Roblox, la plus grande plateforme de jeux ouverte au monde, vient d'annoncer son intention d'étendre son processus de vérification de l'âge.

Le nouveau système combinera la reconnaissance faciale, la vérification d'identité et le consentement parental, a déclaré Matt Kaufman, responsable de la sécurité chez Roblox. Cette méthode serait plus précise que la saisie de l'âge par les joueurs lors de la création d'un compte.

Fondé en 2004 par David Baszucki et Erik Cassel, Roblox est devenu un pionnier du contenu généré par les utilisateurs. Grâce à Roblox Studio, chacun peut concevoir et publier des jeux et gagner des Robux pour ses créations.

Roblox n'est pas seulement un lieu de divertissement ; il est également très apprécié des parents et des enseignants pour sa capacité à développer les compétences en programmation, la créativité et les connaissances en technologies numériques. D'ici 2024, cette plateforme devrait compter plus de 380 millions d'utilisateurs dans le monde, pour une capitalisation boursière estimée entre 35 et 40 milliards de dollars américains.

Plus de 100 mises à jour de sécurité d'ici 2025

La sécurité des utilisateurs est la priorité absolue de Roblox en 2025. L'entreprise a déployé plus de 100 mises à jour axées sur la protection des enfants, notamment Roblox Sentinel, un outil d'IA open source qui détecte les comportements nuisibles et les premiers signes de risque.

Ces mesures visent à instaurer un climat de confiance avec les parents, les organismes de réglementation et la communauté, et à renforcer l'image de Roblox en tant que lieu de jeu sûr pour les enfants.

Polémique autour des enfants et de la monétisation

Malgré ses progrès rapides, Roblox a fait l'objet de critiques. Environ 35 à 40 % de ses utilisateurs ont moins de 13 ans, ce qui inquiète les parents quant aux risques que leurs enfants interagissent avec des inconnus, achètent des objets avec de l'argent réel et jouent à des jeux au contenu inapproprié.

De plus, certains des jeux les plus populaires de Roblox ont été accusés d'utiliser des mécanismes similaires aux jeux de hasard. Par exemple, « Please Donate », où les joueurs attendent que d'autres leur donnent des Robux, a été accusé de créer une spirale psychologique comparable à celle des jeux d'argent. De même, « Adopt Me! », un jeu qui encourage les joueurs à acheter des œufs mystérieux pour faire éclore des animaux de compagnie, a été comparé au système « gacha » des jeux mobiles.

Roblox confirme ses efforts pour protéger la communauté

Roblox affirme que sa plateforme est bien supérieure à nombre de ses concurrents en matière de modération. Cela inclut la surveillance de tous les messages texte ; l’interdiction des transferts d’images directs entre utilisateurs ; la limitation des joueurs de moins de 13 ans aux conversations privées et vocales ; des filtres bloquant les contenus inappropriés dans les discussions publiques ; et la possibilité pour les familles de modifier les paramètres par défaut grâce au contrôle parental.

L'adoption de l'IA et d'une modération plus stricte par Roblox est perçue comme un grand pas en avant, mais il est peu probable qu'elle dissipe toutes les inquiétudes. L'entreprise admet d'ailleurs qu'aucun système n'est parfait et qu'il est impossible d'éliminer complètement les contenus préjudiciables.