Também chamado de: Test-time compute, escala na inferência
Test-time compute significa dar à IA mais tempo de processamento na hora de responder, para que ela pense mais. Isso costuma melhorar respostas difíceis.
Exemplo
Numa questão de lógica complicada, o modelo pensa um minuto em vez de um segundo e acerta mais.
Para profissionais
Em vez de só treinar modelos maiores, aumenta-se o trabalho por pedido, por exemplo com cadeias de pensamento mais longas ou várias tentativas. Modelos de raciocínio usam isso, e muitos fornecedores permitem ajustar o esforço. Pensar mais custa mais tokens e tempo de espera.
