Explications contrefactuelles

Les explications contrefactuelles, introduites par Wachter, Mittelstadt et Russell en 2017, répondent à la question : « Quel est le changement minimal apporté à l'entrée qui aurait produit une sortie différente du modèle ? » Plutôt que d'expliquer pourquoi un modèle a pris une décision, elles décrivent ce qui devrait changer pour que cette décision soit inversée, ce qui les rend particulièrement précieuses pour les applications à enjeux élevés telles que la notation de crédit, le diagnostic médical et les décisions d'embauche dans le cadre du RGPD européen.