説明可能性(XAI)とは？

別名：説明可能なAI

説明可能性とは、AIがなぜその結果を出したのかを人が理解できることです。

例

ローンの審査に落ちたとき、返済額に対して収入が低すぎるなど、主な理由が示されます。

シンプルで説明しやすいモデルから、あとから説明を加える方法(特徴量の重要度など)まであります。大規模言語モデルでは説明が難しく、モデル自身が書いた理由が正しいとは限りません。EU AI法は、一部の高リスクな判断について、影響を受けた人に説明を求める権利を認めています(第86条)。