Erklärbarkeit heißt, dass Menschen nachvollziehen können, warum eine KI zu einem Ergebnis gekommen ist.
Beispiel
Eine abgelehnte Kreditanfrage nennt die wichtigsten Gründe, etwa zu geringes Einkommen im Verhältnis zur Rate.
Für Profis
Verfahren reichen von einfachen, erklärbaren Modellen bis zu nachträglichen Erklärungen (z. B. Merkmalsgewichtungen). Bei großen Sprachmodellen sind Erklärungen schwierig; selbst formulierte Begründungen müssen nicht stimmen. Der AI Act gibt Betroffenen bei bestimmten Hochrisiko-Entscheidungen ein Recht auf Erläuterung (Art. 86).
