SHAP (SHapley Additive exPlanations)

SHAP adalah metode penjelasan model, yang diperkenalkan oleh Scott Lundberg dan Su-In Lee pada tahun 2017, yang menggunakan nilai Shapley dari teori permainan kooperatif untuk mengukur seberapa besar kontribusi setiap fitur terhadap prediksi individual, sehingga membuat keluaran model pembelajaran mesin kotak hitam (black-box) dapat diinterpretasikan. Metode ini mendukung penjelasan global (pentingnya fitur secara keseluruhan) dan penjelasan lokal (mengapa satu prediksi spesifik menghasilkan demikian).