機密情報の漏えいとは？
別名： Sensitive information disclosure
機密情報の漏えいとは、入力、回答、連携したツールなどを通じて、AI経由で機密情報が権限のない人に届いてしまうことです。
例
社内文書にアクセスできるチャットボットが、誤って顧客に従業員名簿の給与を伝えてしまいます。
専門家向け
OWASPは、LLMアプリの主要なリスクのひとつにこれを挙げています。原因は、広すぎるアクセス権、プロンプトインジェクション、保存された会話、顧客データでの学習などです。対策は、データを最小限にする、利用者ごとに権限を確認する、出力をフィルターする、データ保護の約束が明確な提供者を選ぶことです。
関連するプロンプト・スキル・エージェント・ツール
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。