Roblox представил новый набор функций безопасности, специально разработанных для подростков в возрасте от 13 до 17 лет. Это включает в себя новую технологию оценки возраста, использующую ИИ для определения возраста пользователя на основе предоставленного видео-селфи.
В анонсе подробно описано несколько новых мер, направленных на повышение безопасности подростков и детей на платформе. Центральное место в этом обновлении занимают функции, предоставляющие подросткам (13-17) больше автономии по сравнению с младшими пользователями, но при этом сохраняющие больше ограничений, чем у взрослых аккаунтов. Ключевая функция позволяет подросткам назначать «доверенные связи» — пользователей, с которыми они могут общаться в Roblox без фильтров чата. По словам Roblox, эта инициатива направлена на удержание разговоров в контролируемой среде платформы, а не на то, чтобы подталкивать подростков к менее защищенным сторонним приложениям, где могут происходить неподобающие обсуждения.
Доверенные связи предназначены для пользователей, знающих друг друга в реальной жизни. Если подросток хочет добавить кого-то в возрасте 18 лет или старше в качестве доверенной связи, он должен сделать это с помощью сканера QR-кода или импорта контактов для верификации.
Ранее Roblox требовал предоставления государственного удостоверения личности для подтверждения возраста 13+ или 18+ для доступа к определенным функциям чата. Компания теперь внедряет альтернативный метод верификации. Пользователи могут предоставить «видео-селфи», которое ИИ проанализирует, сравнив с обширным и разнообразным набором данных, чтобы оценить, старше ли человек 13 лет. Аналогичные функции оценки возраста на основе ИИ тестировались Google ранее в этом году и Meta в прошлом году.
Наряду с этими обновлениями Roblox внедряет дополнительные инструменты, такие как управление онлайн-статусом, режим «Не беспокоить» и расширенные родительские настройки для аккаунтов, привязанных к профилю подростка.
Roblox постоянно сталкивается с пристальным вниманием к своему подходу к безопасности детей. В 2018 году появились сообщения о том, что аватар семилетнего ребенка подвергся сексуальному насилию в игре, а шестилетнего пригласили в «секс-комнату». Расследование People Make Games в 2021 году обвинило бизнес-модель Roblox в эксплуатации детского труда. Компания столкнулась с иском в Сан-Франциско в 2022 году по обвинению в содействии финансовой и сексуальной эксплуатации 10-летней девочки. Дальнейшие иски в 2023 году утверждали, что платформа способствовала созданию незаконной экосистемы азартных игр и имела слабые протоколы безопасности, подвергая детей контенту для взрослых. В прошлом году отчет Bloomberg подчеркнул распространенность охотников за детьми на платформе. В том же году Roblox заявил о сообщении более 13 000 случаев эксплуатации детей в Национальный центр по делам пропавших и эксплуатируемых детей в 2023 году, что привело к аресту 24 человек, подозреваемых в нацеливании на детей через игру.
«Безопасность всегда была основой всего, что мы делаем в Roblox», — заявил главный специалист по безопасности Мэтт Кауфман в анонсе. «Наша цель — быть лидером в мире по безопасности и цивилизованности в онлайн-играх. Мы стремимся поддерживать впечатления, которые являются одновременно глубоко захватывающими и расширяющими возможности для игроков всех возрастов, постоянно внедряя инновации в способы подключения и взаимодействия пользователей».
