Robloxは米国時間2025年2月10日、Google、OpenAI、Discordなどと共に、ネットの安全性を促進する非営利団体（NPO）「Robust Open Online Safety Tools（ROOST）」の創設パートナーに加わることを発表しました。また、同団体の技術諮問委員会において共同委員長に就任しました。
ROOSTは、インターネット上の児童の安全性を向上させることを目的とし、AI時代に適した拡張性や相互運用性、復元性に優れた安全ツールの開発に取り組みます。あらゆる規模の公共組織や任意団体がユーザーの安全を守るためのシステムを強化できるよう、無料でオープンソースの安全リソースを提供する予定です。
Robloxは創業以来、インターネット上の安全性向上とマナーの改善に取り組んできました。昨年には、同社の9400万パラメータを持つ「音声安全分類器モデル」のオープンソース化を通じて、取り組みを進めています。このモデルは、プラットフォーム上で日々行われる約40万時間分の発話を処理し、1日数百万件規模の音声データから、ポリシー違反となる会話を人の審査よりも正確に検出することが可能です。公開以来、このモデルは約2万2000回ダウンロードされ、広く活用されています。
今回、同社がROOSTの創設パートナーとなることで、ROOSTコミュニティが持つ機械学習モデル作成の知見を活用し、これまで使用・共有してきた安全性に関する技術をさらに発展させることが可能になります。また、Robloxはこれまでの取り組みを通じて得た知見を提供し、ROOSTの業務および技術面での戦略的な実行を支援していく方針です。
ROOST イーライ・シュガーマン副委員長（コメント）
Robloxのようなインターネット上の安全性における世界的リーダーがROOSTの設立パートナーとして参加することは、我々にとって大きなチャンスです。
オープンソースの安全機能に対するコミットメントを示したRobloxは、オンラインコミュニティ全体の保護に貢献する革新的な方法を共有する絶好の立場にあります。
-
-
ロブロックス、安全システムと保護者コントロール機能の大幅なアップデートを発表
参考：公式提供資料