Explicabilidade significa que as pessoas conseguem entender por que uma IA chegou a um resultado.
Exemplo
Um pedido de empréstimo recusado informa os principais motivos, como renda baixa demais em relação à parcela.
Para profissionais
Os métodos vão de modelos simples e explicáveis a explicações posteriores (ex.: importância das variáveis). Em grandes modelos de linguagem isso é difícil; as justificativas que o próprio modelo escreve não são necessariamente corretas. O Regulamento de IA da UE dá aos afetados o direito a explicação em certas decisões de alto risco (art. 86).
Prompts, skills, agentes e ferramentas relacionados
