La alineación es el trabajo para que los sistemas de IA hagan lo que las personas realmente quieren, respetando normas y valores.
Ejemplo
Un modelo debe responder de forma útil, pero no dar instrucciones sobre sustancias peligrosas aunque alguien pregunte con astucia.
Para profesionales
Los métodos incluyen RLHF, especificaciones escritas del comportamiento del modelo, red teaming e investigación en interpretabilidad. Cómo comprobar de forma fiable la alineación en sistemas muy capaces es una cuestión abierta. El término a veces se usa en sentido amplio para la «seguridad y comportamiento» de un modelo.
