LIME: Local Interpretable Model-agnostic Explanations

LIME, som introducerades av Ribeiro, Singh och Guestrin 2016, förklarar prediktioner från vilken black-box-klassificerare eller regressionsmodell som helst genom att bygga en enkel, lokalt trogen surrogatmodell kring en enskild prediktion av intresse. Istället för att förklara den globala modellen fokuserar LIME på varför en specifik instans klassificerades som den gjorde, vilket gör komplexa modeller som djupa neurala nätverk och ensemblemetoder tolkningsbara för slutanvändare, domänexperter och granskare.