레드팀 테스트 뜻
다른 이름: Red teaming, 적대적 테스트
레드팀 테스트에서는 전문가가 일부러 AI가 실수하거나 해로운 답을 하도록 시도해, 출시 전에 약점을 찾습니다.
예시
한 팀이 고객 상담 봇에게서 내부 할인 코드를 알아내려고 시도합니다.
전문가용
탈옥, 프롬프트 인젝션, 데이터 유출, 위험한 콘텐츠 등을 시험합니다. EU AI법은 시스템적 위험이 있는 GPAI 모델에 적대적 테스트를 요구합니다. 결과는 가드레일, 학습, Evals에 반영됩니다.
출처: DOI 10.6028/NIST.AI.600-1, nist.gov, Wikipedia · 확인일: 2026년 10월 19일
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.
