Roblox（ロブロックス）は米国時間8月7日、子どもを危険にさらす恐れのある通信内容を早期に検知し、迅速な調査や必要に応じた法執行機関への通報を可能にする人工知能（AI）システム「Roblox Sentinel（ロブロックス・センティネル / みまもり機能）」を発表しました。このシステムはオープンソースとして公開され、業界内の他のデジタルプラットフォームでも利用できます。
ロブロックスが提供するオープンソースの安全ツールキットの一部である「みまもり機能」は、潜在的なグルーミング（信頼を装い接近する行為）の兆候となる、巧妙で検知が難しいコミュニケーションパターンを特定する早期警告システムです。ロブロックスでは2024年後半から運用を開始し、ユーザー保護のため迅速な対応や調査に活用しています。
同社は、ロブロックスでの安全性を高めるためには専門家による人的審査とAIを戦略的に組み合わせることが重要だとしています。AIが違反の可能性があると判断したケースは、専門のアナリストがレビューを行い、その判断結果をもとに事例や分類基準、学習に使うデータセットの継続的な調整・精査を行います。こうした人の手を介したプロセスにより、「みまもり機能」は悪質な違反者の新たな手口や進化するパターンにも対応し続けることができます。
さらにロブロックスは、業界全体の安全性向上にも取り組んでいます。革新的な技術のオープンソース化に加え、同社が創設パートナーを務めるROOSTや、Tech CoalitionによるLanternプロジェクトなどのパートナーとの協業も行っています。
コメント
ロブロックス 最高安全責任者 マット・カウフマン 氏
AIは、ロブロックスにおける安全対策の根幹をなしており、ユーザーの安全を守る上で不可欠な存在です。オンラインの安全性に対する当社のアプローチにおいて、オープンソース・コミュニティへの貢献は極めて重要です。なぜなら、こうした課題はデジタル世界全体に共通して存在しているからです。当社は、技術を共有し、他のリーダーたちと協力することで、インターネットをより安全な場所にすることを目指しています。
ROOST プロダクト責任者 ジュリエット・シェン 氏
現在、多くのプラットフォームでは、特にお子様を標的とするオンライン上の有害行為を特定し防止するために必要な高度なツールへのアクセスが不十分です。ROOSTでは、ユーザーの安全を守ることに真剣に取り組むすべての人々に対し、強力な安全対策が利用可能であるべきだと考えています。ロブロックスがオンラインでの信頼性と安全の分野において、より多くのオープンツールを提供していくことを大変嬉しく思います。
-
-
ロブロックス、安全性向上に向けた取り組みを強化 信頼できるつながり・年齢推定機能など発表
続きを見る
参考：プレスリリース、公式ニュース
© 2025 Roblox Corporation. All rights reserved.