강화 학습 뜻

다른 이름: Reinforcement learning, RL

강화 학습에서는 AI가 행동을 시도하고, 보상이나 벌점을 통해 목표로 이어지는 행동을 배웁니다.

예시

AI가 게임을 수천 판 하면서 점수를 더 많이 얻은 수를 고르게 됩니다.

에이전트는 어떤 상태에서 행동을 고르고 보상을 받으며, 기대되는 총보상을 최대화합니다. 언어 모델에서는 RLHF와, 정답을 확인할 수 있는 과제로 추론 모델을 학습시키는 데 쓰입니다. 보상을 잘못 설계하면 원치 않는 지름길(보상 해킹)이 생깁니다.

AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.