예시
모델은 도움이 되게 답하되, 교묘하게 물어도 위험한 물질 제조법은 알려 주지 않아야 합니다.
전문가용
RLHF, 모델 행동을 정한 문서, 레드팀 테스트, 해석 가능성 연구 같은 방법이 있습니다. 매우 강력한 시스템의 정렬을 믿을 만하게 확인하는 방법은 아직 열린 문제입니다. 모델의 ‘안전과 행동’ 전반을 넓게 가리키는 말로도 쓰입니다.
출처: arXiv 2310.19852, Wikipedia · 확인일: 2026년 10월 19일
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.
