SHAP (SHapley Additive exPlanations)

SHAP es un método de explicación de modelos, introducido por Scott Lundberg y Su-In Lee en 2017, que utiliza valores de Shapley de la teoría de juegos cooperativos para medir cuánto contribuye cada característica a una predicción individual, haciendo que la salida de los modelos de aprendizaje automático de caja negra sea interpretable. Admite explicaciones globales (importancia general de las características) y explicaciones locales (por qué una predicción específica resultó como lo hizo).