Il campionamento è il modo in cui un modello linguistico sceglie una tra più possibili parole successive. Decide quanto i testi risultano prevedibili o vari.
Esempio
Con un campionamento stretto i testi di prodotto suonano uniformi; con uno ampio nascono idee più creative ma meno prevedibili.
Per esperti
Top-k sceglie solo tra i k token più probabili; top-p (nucleus sampling) tra il più piccolo insieme la cui probabilità complessiva raggiunge p. Insieme alla temperatura, controlla la varietà. Nei modelli di ragionamento queste impostazioni sono spesso fisse.
