Robloxは、13歳から17歳の10代を対象に特別に設計された新しい安全機能群を発表しました。これには、提出されたビデオ自撮りをもとにAIを用いてユーザーの年齢を推定する画期的な年齢推定技術が含まれています。
この発表では、プラットフォーム上の10代や子供たちの安全性を高めることを目的とした幾つかの新施策が詳述されています。この更新の中心となるのは、年少ユーザーよりも10代（13～17歳）に高い自律性を与える一方で、成人アカウントよりも多くの制限を維持する機能です。主な機能として、10代ユーザーが「信頼できる接続」を指定できるものがあり、これにより指定した相手とはチャットフィルターなしでRoblox上でコミュニケーションできます。Robloxによれば、この施策の目的は、不適切な会話が起こり得る安全性の低いサードパーティ製アプリに10代ユーザーが流向するのではなく、監視下にあるプラットフォーム環境内で会話を維持することにあります。
信頼できる接続は、現実生活で互いを知っているユーザーを対象としています。10代ユーザーが18歳以上の人を信頼できる接続として追加したい場合、QRコードスキャナーまたは連絡先インポーターを使用して検証を行う必要があります。
以前は、Robloxは特定のチャット機能にアクセスするために、ユーザーが13歳以上または18歳以上であることを確認するため政府発行の身分証明書を要求していました。同社は現在、代替となる検証方法を導入しています。ユーザーは「ビデオ自撮り」を提出でき、AIが大規模で多様なデータセットに対して分析を行い、その人物が13歳以上かどうかを推定します。同様のAI駆動の年齢推定機能は、今年初めにGoogle、昨年にMetaによってテストが行われています。
これらのアップデートと並行して、Robloxは、オンラインステータス制御、「取り込み中」モード、10代ユーザーのプロファイルにリンクされたアカウント向けの強化された保護者によるコントロールといった追加ツールを展開しています。
Robloxは、子供の安全への取り組みに関して継続的な監視に直面してきました。2018年には、7歳児のアバターがゲーム内で性的暴行を受けたとの報告や、6歳児が「性的な部屋」に招待されたとの報告が表面化しました。2021年のPeople Make Gamesによる調査は、Robloxのビジネスモデルが児童労働を搾取していると非難しました。同社は2022年、サンフランシスコで、10歳の少女に対する経済的および性的搾取を可能にしたとして訴訟に直面しました。2023年のさらなる訴訟では、プラットフォームが違法なギャンブル生態系を促進したこと、および子供たちを成人向けコンテンツに晒す緩い安全対策をとっていたことなどが主張されました。昨年、Bloombergの報道は、プラットフォーム上での児童虐待者の蔓延を浮き彫りにしました。同年、Robloxは2023年に行方不明及び搾取された子供のための国立センターに児童搾取の事例13,000件以上を報告し、その結果、ゲームを通じて子供を標的とした疑いで24人の個人が逮捕されたと述べました。
「安全は、私たちRobloxにおけるあらゆる活動の基盤であり続けています」と、最高安全責任者マット・カウフマンは発表で述べました。「私たちの目標は、オンラインゲームの安全性と健全性において世界をリードすることです。私たちは、あらゆる年齢のプレイヤーにとって深く没入感があり、力を与えるような体験をサポートするとともに、ユーザーがどのようにつながり、交流するかについて絶えず革新し続けることに専念しています。」
