SHAP (SHapley Additive exPlanations)

SHAP és un mètode d'explicació de models, introduït per Scott Lundberg i Su-In Lee el 2017, que utilitza els valors de Shapley de la teoria de jocs cooperatius per mesurar quant contribueix cada característica a una predicció individual, fent interpretable la sortida dels models d'aprenentatge automàtic de caixa negra. Dóna suport tant a explicacions globals (importància general de les característiques) com a explicacions locals (per què una predicció específica va resultar com ho va fer).