データポイズニングとは？
別名： データ汚染攻撃
データポイズニングは、AIの学習データや知識源に操作したデータを紛れ込ませ、あとで誤った反応をさせる攻撃です。
例
誰かが細工したウェブページを公開し、AIが特定の商品を誤って勧めるように仕向けます。
専門家向け
狙われるのは学習データ、ファインチューニング用データ、RAGの文書です。少数の細工された例でもバックドアを仕込めることが研究で示されています。対策は、確認済みの情報源、出所の記録、アクセス管理、不審な挙動のテストです。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。