レッドチーミングとは？
別名： 敵対的テスト
レッドチーミングでは、専門家がわざとAIに誤りや有害な回答をさせようとし、公開前に弱点を見つけます。
例
チームが顧客サポートのボットから社内の割引コードを聞き出そうと試みます。
専門家向け
ジェイルブレイク、プロンプトインジェクション、データ漏えい、危険な内容などをテストします。EU AI法は、システミックリスクを伴うGPAIモデルに敵対的テストを求めています。結果はガードレール、学習、Evalsに反映されます。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。