Alignment bezeichnet die Arbeit daran, dass KI-Systeme tun, was Menschen tatsächlich beabsichtigen, und dabei Regeln und Werte einhalten.
Beispiel
Ein Modell soll hilfreich antworten, aber keine Anleitung für gefährliche Stoffe geben, auch wenn jemand geschickt fragt.
Für Profis
Methoden sind unter anderem RLHF, Regelwerke für das Modellverhalten, Red Teaming und Forschung zur Interpretierbarkeit. Offen ist, wie sich Alignment bei sehr leistungsfähigen Systemen zuverlässig prüfen lässt. Der Begriff wird teils auch breit für „Sicherheit und Verhalten“ eines Modells genutzt.
