Também chamado de: Sampling, estratégia de decodificação
Amostragem é o jeito como um modelo de linguagem escolhe uma entre várias próximas palavras possíveis. Ela define quão previsíveis ou variados os textos ficam.
Exemplo
Com amostragem estreita, textos de produto soam uniformes; com amostragem ampla, surgem ideias mais criativas, porém menos previsíveis.
Para profissionais
Top-k escolhe apenas entre os k tokens mais prováveis; top-p (nucleus sampling), entre o menor conjunto cuja probabilidade somada chega a p. Junto com a temperatura, isso controla a variedade. Em modelos de raciocínio, esses ajustes costumam ser fixos.
