AI検知をスケールさせるベンチマーク基盤

課題

AI生成画像が実写と見分けがつかないレベルに近づく中、IdentifAIは人や企業をデジタル詐欺から守ることを使命にしています。同社の検知プラットフォームは、ディープフェイクやAI生成コンテンツ、改ざんメディアを特定し、組織の安全を支えています。

世界水準の検知モデルを構築・維持するには、主要な生成モデルすべてから、常に新しいAI生成画像を供給し続ける必要がありました。Midjourney、DALL-E、Flux、Stable Diffusion、そして新たに登場するモデルまで、それぞれ出力の特徴や“痕跡”が異なるため、幅広い条件での検証が欠かせません。

手作業での収集はスケールしません。公開データセットも、モデルの進化によりすぐ陳腐化します。多様で高品質なAI画像を、プロンプト・スタイル・パラメータを制御しながらオンデマンドで生成できる仕組みが必要でした。

解決策

IdentifAIは、Apiframeの統合APIを導入し、主要モデル横断でAI画像をプログラム生成できるようにしました。1つのAPIで、Midjourney、DALL-E 3、Flux Pro、Stable Diffusion などから、日次で数千枚を生成。フォーマットやメタデータも一貫して扱えます。

この統合により、ベンチマーク基盤が大きく変わりました。手作業での収集や古いデータセットに頼るのではなく、必要なときに新しいテストサンプルを自動生成する仕組みを構築。各画像には「どのモデルで」「どのプロンプトで」「どの生成パラメータで」作られたかといった来歴データも付与されます。

• 15以上の画像生成モデルを1つのAPIで利用
• Webhookで一括生成を自動化
• メタデータと来歴（プロベナンス）を追跡
• モデル間で出力フォーマットを統一
• 数百枚から数十万枚までスケール
• 各モデル直叩きよりコスト効率が高い

成果

Apiframeで画像生成パイプラインを構築したことで、IdentifAIはAI検知精度で大きな成果を出しました。現在、同社のモデルはAI生成コンテンツを94%超の精度で安定して判定しており、偽情報セキュリティ領域の複数のGartnerレポートでも評価されています。

自動化された基盤は、年間20万枚以上のテスト画像を生成。主要モデルとスタイルのバリエーションを網羅します。新モデルが登場した際も、すぐにテストサンプルを生成して検知アルゴリズムを更新でき、急速に変化するAI環境に先回りできます。

工数面の改善も劇的でした。数週間かかっていた手作業の素材収集が自動化され、研究チームはテストデータ集めではなく検知アルゴリズムの改善に集中できます。その結果、開発サイクルを数か月単位で短縮しました。