민감 정보 노출은 입력, 답변, 연결된 도구 등을 통해 AI로 기밀 정보가 권한 없는 사람에게 가는 것을 말합니다.
예시
사내 문서에 접근할 수 있는 챗봇이 실수로 고객에게 직원 명단의 급여를 알려 줍니다.
전문가용
OWASP는 이를 LLM 애플리케이션의 주요 위험 가운데 하나로 꼽습니다. 원인은 너무 넓은 접근 권한, 프롬프트 인젝션, 저장된 대화, 고객 데이터로의 학습 등입니다. 데이터를 최소화하고, 사용자별 권한을 확인하고, 출력을 걸러 내고, 데이터 보호 약속이 분명한 제공자를 고르세요.
