Kontrafaktische Erklärungen

Kontrafaktische Erklärungen, eingeführt von Wachter, Mittelstadt und Russell im Jahr 2017, beantworten die Frage: 'Was ist die kleinste Änderung am Input, die zu einer anderen Modell-Ausgabe geführt hätte?' Anstatt zu erklären, warum ein Modell eine Entscheidung getroffen hat, beschreiben sie, was sich ändern müsste, damit diese Entscheidung umgekehrt wird, was sie besonders wertvoll für Anwendungen mit hohen Einsätzen wie Kredit-Scoring, medizinische Diagnostik und Einstellungsprozesse im Rahmen der EU-DSGVO macht.