모델 라우터 뜻
다른 이름: LLM 라우터, Model routing
모델 라우터는 요청마다 어떤 AI 모델이 답할지 자동으로 정합니다. 쉬운 질문은 빠르고 저렴한 모델로, 어려운 질문은 더 강한 모델로 보냅니다.
라우터
쉬움: 빠른 모델어려움: 강력한 모델
예시
“‘Danke’를 영어로 번역해 줘”는 작은 모델로, 긴 계약서 검토는 추론 모델로 보내집니다.
전문가용
목표는 품질, 비용, 대기 시간의 좋은 균형입니다. 라우터는 고정 규칙, 요청의 특징, 또는 따로 학습한 모델로 판단합니다. 연구 프로젝트 RouteLLM은 이런 판단을 선호 데이터에서 학습합니다. OpenRouter 같은 서비스는 여러 모델을 하나의 인터페이스로 묶고 자동으로 고를 수도 있습니다. 단점은 어떤 모델이 답했는지 늘 보이지는 않고, 요청마다 품질이 달라질 수 있다는 점입니다.
AI Compare Ninja에서 보기
관련 프롬프트·스킬·에이전트·도구
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.