Roblox a dévoilé une nouvelle série de fonctionnalités de sécurité conçues spécifiquement pour les adolescents de 13 à 17 ans. Cela inclut une technologie inédite d'estimation de l'âge qui utilise l'IA pour évaluer l'âge d'un utilisateur à partir d'un selfie vidéo soumis.
L'annonce détaille plusieurs nouvelles mesures visant à renforcer la sécurité des adolescents et des enfants sur la plateforme. Au cœur de cette mise à jour se trouvent des fonctionnalités qui accordent aux adolescents (13-17) plus d'autonomie que les utilisateurs plus jeunes, tout en maintenant plus de restrictions que les comptes adultes. Une fonctionnalité clé permet aux adolescents de désigner des "connexions de confiance" avec lesquelles ils peuvent communiquer sur Roblox sans filtres de discussion. Selon Roblox, cette initiative vise à maintenir les conversations dans l'environnement supervisé de la plateforme, plutôt que d'inciter les adolescents à utiliser des applications tierces moins sécurisées où des discussions inappropriées pourraient avoir lieu.
Les connexions de confiance sont destinées aux utilisateurs qui se connaissent dans la vie réelle. Si un adolescent souhaite ajouter une personne de 18 ans ou plus comme connexion de confiance, il doit le faire en utilisant un lecteur de code QR ou un importateur de contacts pour vérification.
Auparavant, Roblox exigeait une pièce d'identité officielle pour vérifier qu'un utilisateur avait 13 ans ou plus, ou 18 ans ou plus, afin d'accéder à certaines fonctionnalités de discussion. L'entreprise introduit désormais une méthode de vérification alternative. Les utilisateurs peuvent soumettre un "selfie vidéo", qu'une IA analysera par rapport à un vaste ensemble de données diversifié pour estimer si la personne a plus de 13 ans. Des fonctionnalités similaires d'estimation de l'âge par IA ont été testées par Google plus tôt cette année et par Meta l'année précédente.
Parallèlement à ces mises à jour, Roblox déploie des outils supplémentaires tels que des contrôles de statut en ligne, un mode "Ne pas déranger" et des contrôles parentaux améliorés pour les comptes liés au profil d'un adolescent.
Roblox a fait face à des critiques persistantes concernant son approche de la sécurité des enfants. En 2018, des rapports ont fait surface faisant état de l'agression sexuelle de l'avatar d'un enfant de sept ans en jeu et d'une invitation d'une fillette de six ans dans une "salle de sexe". Une enquête de 2021 de People Make Games a accusé le modèle économique de Roblox d'exploiter le travail des enfants. L'entreprise a fait face à un procès à San Francisco en 2022 pour avoir, selon les allégations, permis l'exploitation financière et sexuelle d'une fillette de 10 ans. D'autres poursuites en 2023 ont allégué que la plateforme facilitait un écosystème de jeu d'argent illégal et avait des protocoles de sécurité laxistes exposant les enfants à des contenus pour adultes. L'année dernière, un rapport de Bloomberg a souligné la prévalence de prédateurs d'enfants sur la plateforme. La même année, Roblox a déclaré avoir signalé plus de 13 000 cas d'exploitation d'enfants au Centre national pour les enfants disparus et exploités en 2023, conduisant à l'arrestation de 24 individus soupçonnés de cibler des enfants via le jeu.
"La sécurité a toujours été fondamentale dans tout ce que nous faisons chez Roblox", a déclaré le directeur de la sécurité, Matt Kaufman, dans l'annonce. "Notre objectif est d'être les leaders mondiaux en matière de sécurité et de civilité pour les jeux en ligne. Nous nous engageons à soutenir des expériences à la fois profondément engageantes et responsabilisantes pour les joueurs de tous âges, tout en innovant continuellement dans la manière dont les utilisateurs se connectent et interagissent."
