추론(인퍼런스) 뜻

다른 이름: 인퍼런스

추론은 이미 학습된 모델을 사용하는 것입니다. AI에게 받는 모든 답변이 추론의 결과입니다.

예시

질문을 하면 모델이 잠시 계산한 뒤 답을 씁니다. 이것이 추론입니다.

추론은 요청마다 연산 자원을 쓰기 때문에 API는 토큰 단위로 요금을 받습니다. 대기 시간과 비용은 모델 크기, 입력과 출력 길이, 하드웨어에 따라 달라집니다.

AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.