SHAP (SHapley Additive exPlanations)

SHAP — это метод объяснения моделей, представленный Скоттом Лундбергом и Су-Ин Ли в 2017 году, который использует значения Шепли (Shapley values) из кооперативной теории игр для измерения вклада каждой характеристики в индивидуальное предсказание, делая выходные данные моделей машинного обучения типа «чёрный ящик» интерпретируемыми. Он поддерживает как глобальные объяснения (общая важность признаков), так и локальные объяснения (почему конкретное предсказание получилось именно таким).