예시
평가자가 두 답변 중 더 도움이 되는 쪽을 고르고, 모델은 이런 선택 수천 건에서 배웁니다.
전문가용
평가로 보상 모델을 학습시키고, 이를 이용해 언어 모델을 강화 학습으로 최적화합니다. 비슷한 방법으로 DPO와 AI 피드백 학습이 있습니다. RLHF로 모델은 더 유용하고 공손해지지만, 사용자 말에 지나치게 동의하는 경향이 생길 수도 있습니다.
출처: arXiv 2203.02155, Wikipedia · 확인일: 2026년 10월 19일
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.
