推論時計算とは？
別名： Test-time compute、推論時スケーリング
推論時計算とは、回答のときにAIへ多くの計算時間を与え、長く考えさせることです。難しい質問の答えが良くなることがよくあります。
例
難しい論理パズルで、モデルが1秒ではなく1分考えることで、間違いが減ります。
専門家向け
より大きなモデルを学習させるだけでなく、1回の依頼にかける計算を増やす考え方です。長い思考の連鎖や複数回の試行などがあります。推論モデルはこれを利用し、多くのサービスで考える量を調整できます。長く考えるほどトークン費用と待ち時間が増えます。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。