Explicações Contrafatuais

Explicações contrafatuais, introduzidas por Wachter, Mittelstadt e Russell em 2017, respondem à pergunta: 'Qual é a menor alteração na entrada que produziria uma saída diferente do modelo?' Em vez de explicar por que um modelo tomou uma decisão, elas descrevem o que precisaria mudar para que essa decisão fosse revertida, tornando-as particularmente valiosas para aplicações de alto risco, como pontuação de crédito, diagnóstico médico e decisões de contratação sob frameworks como o GDPR da UE.