Guardrails sind Schutzregeln rund um eine KI. Sie verhindern unerwünschte Antworten oder Aktionen.
Beispiel
Ein Kundenservice-Bot darf keine Rabatte zusagen und leitet solche Fragen an einen Menschen weiter.
Für Profis
Guardrails wirken auf mehreren Ebenen: im Modell, im System-Prompt, als Filter für Ein- und Ausgaben und als Rechte für Werkzeuge. Keine Ebene ist allein sicher.
