Detto anche: Apprendimento per rinforzo dal feedback umano
L’RLHF è una fase di addestramento in cui persone valutano le risposte di un’IA e il modello impara a dare quelle preferite.
Esempio
I valutatori scelgono la più utile tra due risposte; il modello impara da migliaia di queste scelte.
Per esperti
Dalle valutazioni si addestra un modello di ricompensa con cui si ottimizza il modello linguistico tramite apprendimento per rinforzo. Metodi affini sono DPO e l’addestramento con feedback di IA. L’RLHF rende i modelli più utili e cortesi, ma può portare a dare troppo ragione all’utente.
