LIME: Lokale fortolkbare modelluavhengige forklaringer

LIME, introdusert av Ribeiro, Singh og Guestrin i 2016, forklarer prediksjonene til enhver svart boks-klassifikator eller -regressor ved å bygge en enkel, lokalt trofast surrogatmodell rundt en enkelt prediksjon av interesse. I stedet for å forklare den globale modellen, fokuserer LIME på hvorfor en spesifikk instans ble klassifisert slik den ble, noe som gjør komplekse modeller som dype nevrale nettverk og ensemblemetoder fortolkbare for sluttbrukere, domeneeksperter og revisorer.