コンテンツモデレーションコンテンツモデレーション

投稿時の自動スクリーニング

画像・動画・テキスト・音声に対して、機械学習モデルによる判定を実施します。違反の可能性が極めて高いコンテンツは即時にブロックし、判定が保留されたものは専門チームによる審査に移行します。モデルは社内で継続的に改善しています。誤検知が確認された場合の修正フローも仕組み化しており、特定のクリエイターが不利益を被りつづける状態を作らないよう運用しています。

専門チームによるレビュー

専任のモデレーションチームが、自動システムが判断を保留したコンテンツとユーザーからの通報案件をレビューします。判断は個人の感覚ではなく、明文化されたガイドラインに沿って行います。判断履歴はすべて記録され、月次でばらつきを点検しています。判断者のメンタルヘルスを守る仕組み（ローテーション・カウンセリング窓口）も合わせて運用しています。