Roblox ужесточает проверку возраста детей с помощью ИИ

Roblox ужесточает проверку возраста

Roblox — крупнейшая в мире открытая игровая платформа — только что объявила о планах расширить процесс проверки возраста.

Мэтт Кауфман, директор по безопасности Roblox, заявил, что новая система будет сочетать в себе технологию определения возраста по лицу, проверку личности и согласие родителей. Этот подход, как утверждается, точнее, чем просто указание возраста при создании учётной записи.

Основанная в 2004 году Дэвидом Базуцки и Эриком Касселем, компания Roblox стала пионером в области пользовательского контента. С помощью Roblox Studio любой желающий может разрабатывать и публиковать игры, зарабатывая Robux за свои творения.

Roblox — это не только место для развлечений, но и высоко ценится родителями и учителями за возможность развивать навыки программирования, творческое мышление и знание цифровых технологий. К 2024 году число пользователей этой платформы по всему миру превысит 380 миллионов, а её рыночная капитализация составит около 35–40 миллиардов долларов США.

Более 100 обновлений безопасности к 2025 году

Безопасность пользователей — главный приоритет Roblox в 2025 году. Компания выпустила более 100 обновлений, направленных на защиту детей, включая Roblox Sentinel — инструмент искусственного интеллекта с открытым исходным кодом, который обнаруживает вредоносное поведение и ранние признаки риска.

Эти меры направлены на укрепление доверия со стороны родителей, регулирующих органов и сообщества, а также на укрепление имиджа Roblox как безопасного места для игр детей.

Споры о детях и монетизации

Несмотря на быстрые улучшения, Roblox столкнулся с критикой. Около 35–40% его пользователей — дети младше 13 лет, что заставляет родителей беспокоиться о риске взаимодействия детей с незнакомцами, покупки товаров за реальные деньги и игры с неприемлемым контентом.

Кроме того, некоторые из самых популярных игр Roblox обвинялись в использовании игровой механики. Например, игру «Please Donate», где игроки ждут, пока другие дадут им робуксы, обвиняли в создании психологической спирали, схожей с азартной игрой. А игру «Adopt Me!», побуждающую игроков покупать таинственные яйца для выведения питомцев, сравнивали с системой «gacha» в мобильных играх.

Roblox подтверждает усилия по защите сообщества

Roblox утверждает, что его платформа значительно превосходит многих конкурентов в плане цензуры. Это включает в себя мониторинг всех текстовых сообщений, запрет на прямую передачу изображений между пользователями, ограничение доступа к приватным и голосовым чатам для игроков младше 13 лет, фильтры, блокирующие нежелательный контент в публичных чатах, а также возможность настройки параметров по умолчанию для семей с помощью родительского контроля.

Внедрение ИИ и более жёсткая модерация в Roblox рассматриваются как большой шаг вперёд, но вряд ли это развеет все опасения. Компания также признаёт, что ни одна система не идеальна и не может полностью исключить вредоносный контент.