LIME: Локально-интерпретируемые модельно-агностические объяснения

LIME, представленный Рибейро, Сингхом и Гестрином в 2016 году, объясняет предсказания любого классификатора или регрессора «черного ящика», строя простую, локально точную суррогатную модель вокруг конкретного предсказания, представляющего интерес. Вместо объяснения глобальной модели, LIME фокусируется на том, почему конкретный экземпляр был классифицирован именно так, делая сложные модели, такие как глубокие нейронные сети и ансамблевые методы, интерпретируемыми для конечных пользователей, экспертов предметной области и аудиторов.