推論とは?
別名: インファレンス
推論とは、学習済みのモデルを使うことです。AIから受け取るすべての回答は推論の結果です。
例
質問すると、モデルが少し計算して答えを書きます。これが推論です。
専門家向け
推論はリクエストごとに計算資源を使うため、APIはトークン単位で課金します。待ち時間と費用は、モデルの大きさ、入出力の長さ、ハードウェアで変わります。
AI Compare Ninjaで見る
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。