En el aprendizaje por refuerzo, una IA prueba acciones y aprende de recompensas o penalizaciones qué la lleva a su objetivo.
Ejemplo
Una IA aprende un juego jugando miles de partidas y prefiriendo las jugadas que dieron más puntos.
Para profesionales
Un agente elige una acción en un estado y recibe una recompensa; optimiza la recompensa total esperada. En los modelos de lenguaje se usa en RLHF y para entrenar modelos de razonamiento con tareas verificables. Recompensas mal elegidas provocan atajos no deseados (reward hacking).
