SHAP (SHapley Additive exPlanations)

SHAP è un metodo di spiegazione dei modelli, introdotto da Scott Lundberg e Su-In Lee nel 2017, che utilizza i valori Shapley della teoria dei giochi cooperativi per misurare il contributo di ciascuna feature a una singola predizione, rendendo interpretabile l'output dei modelli di machine learning a scatola nera. Supporta sia spiegazioni globali (importanza generale delle feature) sia spiegazioni locali (perché una specifica predizione è risultata in quel modo).