Beim bestärkenden Lernen probiert eine KI Handlungen aus und lernt aus Belohnung oder Bestrafung, was zum Ziel führt.
Beispiel
Eine KI lernt ein Spiel, indem sie Tausende Runden spielt und Züge bevorzugt, die zu mehr Punkten geführt haben.
Für Profis
Ein Agent wählt in einem Zustand eine Aktion und erhält eine Belohnung; er optimiert die erwartete Gesamtbelohnung. Bei Sprachmodellen wird RL für RLHF und für das Training von Reasoning-Modellen mit überprüfbaren Aufgaben genutzt. Schlecht gewählte Belohnungen führen zu unerwünschten Abkürzungen (Reward Hacking).
