SHAP (SHapley Additive exPlanations)

SHAP е метод за обяснение на модели, въведен от Скот Лундберг и Су-Ин Лий през 2017 г., който използва стойности на Шейпли от теорията на кооперативните игри, за да измери как всеки признак допринася за индивидуална прогноза, правейки изхода на моделите за машинно обучение от тип „черна кутия“ интерпретируем. Той поддържа както глобални обяснения (общо значение на признаците), така и локални обяснения (защо една конкретна прогноза е получила такъв резултат).