SHAP (SHapley Additive exPlanations)

SHAP é um método de explicação de modelos, introduzido por Scott Lundberg e Su-In Lee em 2017, que utiliza valores de Shapley da teoria dos jogos cooperativos para medir a contribuição de cada *feature* para uma predição individual, tornando interpretável a saída de modelos de aprendizado de máquina de caixa-preta. Ele suporta tanto explicações globais (importância geral das *features*) quanto explicações locais (por que uma predição específica resultou da maneira que resultou).