SHAP (SHapley Additive exPlanations)

SHAP는 2017년 Scott Lundberg와 Su-In Lee가 소개한 모델 설명 방법론으로, 협력 게임 이론의 Shapley 값을 사용하여 각 특성이 개별 예측에 얼마나 기여하는지를 측정함으로써 블랙박스 머신러닝 모델의 출력을 해석 가능하게 만듭니다. 이는 전역 설명(전반적인 특성 중요도)과 지역 설명(하나의 특정 예측이 왜 그렇게 나왔는지)을 모두 지원합니다.