LIME: Local Interpretable Model-agnostic Explanations

LIME, introdotto da Ribeiro, Singh e Guestrin nel 2016, spiega le predizioni di qualsiasi classificatore o regressore a scatola chiusa (black-box) costruendo un modello surrogato semplice e localmente fedele attorno a una singola predizione di interesse. Piuttosto che spiegare il modello globale, LIME si concentra sul perché una specifica istanza è stata classificata in un certo modo, rendendo interpretabili modelli complessi come reti neurali profonde e metodi d'insieme per utenti finali, esperti di dominio e revisori.