Nell’apprendimento per rinforzo un’IA prova delle azioni e impara da premi o penalità che cosa porta all’obiettivo.
Esempio
Un’IA impara un gioco giocando migliaia di partite e preferendo le mosse che hanno dato più punti.
Per esperti
Un agente sceglie un’azione in uno stato e riceve una ricompensa; ottimizza la ricompensa totale attesa. Nei modelli linguistici l’RL si usa nell’RLHF e per addestrare modelli di ragionamento su compiti verificabili. Ricompense scelte male portano a scorciatoie indesiderate (reward hacking).
