反事実的説明

反事実的説明は、Wachter、Mittelstadt、Russellによって2017年に導入され、「モデルの出力を変更させた入力に対する最小の変更とは何か？」という問いに答えるものである。モデルがなぜ決定を下したかを説明するのではなく、その決定が覆されるために何を変更する必要があるかを記述しており、EU GDPRのような枠組みの下での信用スコアリング、医療診断、採用決定などのハイリスクな応用において特に価値がある。