예시
큰 모델이 수천 개의 질문에 답하고, 작은 모델이 그 답에서 배웁니다.
전문가용
‘학생’ 모델이 ‘교사’ 모델의 출력이나 확률에서 배웁니다. 많은 소형 모델이 이렇게 만들어집니다. 주의할 점은, 많은 제공자의 이용 약관이 자사 출력으로 경쟁 모델을 학습시키는 것을 금지한다는 것입니다.
출처: arXiv 1503.02531, Wikipedia · 확인일: 2026년 10월 19일
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.
