Auch genannt: Reinforcement Learning from Human Feedback
RLHF ist ein Trainingsschritt, bei dem Menschen Antworten einer KI bewerten und das Modell lernt, die bevorzugten Antworten zu geben.
Beispiel
Testerinnen wählen von zwei Antworten die hilfreichere; das Modell lernt aus tausenden solcher Entscheidungen.
Für Profis
Aus den Bewertungen wird ein Belohnungsmodell trainiert, mit dem das Sprachmodell per Verstärkungslernen optimiert wird. Verwandte Verfahren sind DPO und Training mit KI-Feedback. RLHF macht Modelle hilfreicher und höflicher, kann aber auch zu übertriebener Zustimmung führen.
