メインコンテンツまでスキップ

次世代AIモデレーション公開延期について

· 約10分
tah
tah
FullStack Engineer

いつもCubeサービスをご利用いただき、誠にありがとうございます。

この度、AIモデレーションシステムの今後のロードマップについて、皆さまに重要な変更点と、それに至ったビジョンをご説明させていただきたく、ご連絡いたしました。

当初、AIモデレーションシステムのリリースを10月に予定しておりましたが、よりユーザーの皆さまにとって価値があり、長く安心してご利用いただけるシステムを提供するため、このたび次世代AIモデレーションをゼロから再構築することを決定いたしました。そのため、大変申し訳ありませんが、10月のリリースは延期となります。

この決断は、現在のシステムの課題を根本的に解決し、長期的なビジョンを実現するために不可欠であると判断いたしました。私たちは、単なる自動化ツールではなく、「安く、速く、そして何よりも安全に」コミュニティを運営できる、信頼できるAIアシスタントを目指しています。

注意事項

ここでご紹介する機能はすべて開発、検討中であり、最終的なリリース内容や仕様は変更される可能性があります。

なぜ再構築するのか？ 新しいAIモデレーションシステムが目指すこと​

再構築の主な理由と、新しいシステムで実現したいことは以下の通りです。

  1. コスト効率と処理速度の劇的な改善

    • 以前発表したシステムでは、巨大な一つのAIモデルで全てを判断しようとしていたため、「しかもさ」のような自然な日本語表現を誤って検出してしまう問題や、コスト、処理速度に課題がありました。
    • 新しいシステムでは、まるで専門家チームのように複数の異なるAIが連携して処理を行う**「多段構造化されたパイプライン」**を採用します。まず軽量なAIやルールで多くのメッセージ（約70～80%）を素早く処理し、本当に詳細な分析が必要なメッセージだけを高度なAIに回します。
    • これにより、高コストな詳細分析の実行回数を大幅に削減し、APIコストを最大60～65%削減、処理速度も2～3倍高速化することが可能になります。これは、ユーザーの皆さまが「1クレジットでより長く使える」という体験に直結します。

  2. 検出精度と誤検知の徹底的な抑制

    • 各AIが特定のタスクに集中することで、判断の曖昧さが減り、誤検知の原因が減少します。
    • 特に、まるで「最終監査官」のような役割を担う 「ConfidenceNode（信頼度ゲート）」 を導入します。このノードの最も重要な原則は「絶対に確信できる処罰のみを実行し、少しでも不安があれば人間（モデレーター）へエスカレーションする」というものです。これにより、AIによる誤った処罰のリスクを大幅に低減し、既存の実績として誤検知率を12%から 8%へ削減できる見込み です。

  3. 安全性の確保と「可逆性の原則」

    • AIによる自動処罰は、警告、短時間タイムアウト、メッセージ削除など、「実行後に元に戻せる、または影響が一時的で軽微な『軽処置』」に限定することを原則とします。
    • メッセージの完全削除、キック、BANなどの不可逆でユーザーへの影響が大きい処罰は、原則として人間による最終確認と承認を必須とします。AIの誤爆によるコミュニティの信頼失墜を未然に防ぐための、最も重要な安全対策です。

  4. 説明責任と透明性の向上

    • 各AIノードの処理結果が記録されるため、「なぜこの判定に至ったのか」という過程を明確に説明できるようになります。処罰の理由や適用されたルールID、AIが反応した箇所のハイライト、スコアの内訳などを明確にレポートで提示し、ユーザーの納得感を高めます。

  5. 高い拡張性とカスタマイズ性

    • 機能がノード（処理単位）ごとに分離されているため、各サーバーの文化や運営方針に合わせてモデレーションフローを柔軟にカスタマイズできるようになります。将来的には、Webダッシュボード上でノードをドラッグ＆ドロップで配置する直感的なUIで、自分だけのモデレーションパイプラインを編集できるようになる予定です。

「クリエイター経済圏」の構築：誰もがモデレーションに貢献できる未来へ​

私たちは、このAIモデレーションシステムを単なるツールではなく、コミュニティを活性化させる「経済圏」として発展させたいと考えています。

  • 無料カスタマイズの提供: ノードの順番や簡単な分岐設定など、基本的なカスタマイズは無料で提供し、ユーザーの皆さまが自由にモデレーションフローを試作・調整できる機会を広げます。
  • マーケットプレイスとテンプレートの販売/配布: ユーザー（クリエイター）が自作した独自のパイプラインテンプレートを「マーケットプレイス」で販売・配布できるようにします。公式が作成した高性能なテンプレートも提供します。
  • クレジットシステムと「クリエイターサポート」: AI判定ごとに消費される「クレジット」を導入します。このクレジットはPayPay、もしくはクレジットカードで購入できるほか、良いテンプレートを作成・販売することでも獲得できます。さらに、クリエイターサポートのように、特定のクリエイターのコードを使ってクレジットを購入すると、購入額の一部がそのクリエイターに還元され、購入者にもボーナスクレジットが付与されるアフィリエイトプログラムも導入します。
  • クレジット循環とプレミア要素: この仕組みにより、サービス内でクレジットが循環し、利用者とクリエイター双方の活動を活性化させます。バッジ、ランキング、公式認証などの「プレミア要素」も導入し、クリエイターや人気サーバー運営者のモチベーションとコミュニティの熱量を高めます。
  • アップデート不要の強化: ユーザー自身が効果的なプロンプトを研究・共有することで、サービスやAIモデレーションの性能を自ら高めていくことができます。

今後の予定​

今後は、まずMVP（Minimum Viable Product、最小限の価値提供ができる製品）の開発に注力し、その後、小規模なαテストを通じてこれらの改善が実際にユーザー評価の向上に繋がることを実測データで検証していきます。

秋頃のリリース目標から延期となり、ご利用を心待ちにされていた皆さまには大変ご迷惑をおかけいたします。しかし、この再構築は、長期的に見てサービスを大きく飛躍させるための重要な投資であると確信しております。

皆さまのご理解とご協力をお願いいたします。 引き続き、より安く、速く、そして何よりも安全なAIモデレーションシステムを提供できるよう、開発チーム一同尽力してまいりますので、今後のCubeの進化にご期待ください。

今後とも、CubeTeamをよろしくお願いいたします。