Spiegabilità significa che le persone possono capire perché un’IA è arrivata a un risultato.
Esempio
Una richiesta di prestito respinta indica i motivi principali, ad esempio un reddito troppo basso rispetto alla rata.
Per esperti
I metodi vanno da modelli semplici e spiegabili a spiegazioni a posteriori (ad es. importanza delle variabili). Nei grandi modelli linguistici è difficile: le motivazioni scritte dal modello stesso non sono necessariamente corrette. L’AI Act dà alle persone interessate il diritto a una spiegazione per alcune decisioni ad alto rischio (art. 86).
