También llamado: Test-time compute, escalado en inferencia
El test-time compute consiste en dar a la IA más tiempo de cálculo al responder para que piense más. Suele mejorar las respuestas difíciles.
Ejemplo
Ante una pregunta de lógica complicada, el modelo piensa un minuto en vez de un segundo y acierta más.
Para profesionales
En lugar de solo entrenar modelos más grandes, se aumenta el trabajo por petición, por ejemplo con cadenas de pensamiento más largas o varios intentos. Los modelos de razonamiento lo usan y muchos proveedores permiten ajustar el esfuerzo. Pensar más cuesta más tokens y tiempo de espera.
