Explainable Random Forest (Interpretable Ensemble with Feature Attribution)

표준 랜덤 포레스트는 여러 결정 트리들이 함께 투표하는 방식입니다. 정확하지만 내부 작동 방식을 알기 어렵습니다. 설명 가능한 랜덤 포레스트는 다음 두 가지 질문에 답함으로써 이러한 블랙박스를 엽니다. 전역적으로는 어떤 특징들이 모델에서 평균적으로 가장 큰 영향을 미치는지, 그리고 지역적으로는 왜 특정 관측치에 대해 이 예측값이 할당되었는지입니다. 협력 게임 이론에 기반한 SHAP 값은 기준선(baseline)으로부터의 예측 차이에 대해 각 특징에 공정한 가산적(additive) 기여도를 분배합니다. 이는 마치 팀원 간에 공로를 공정하게 나누는 것과 같습니다. 이러한 이중적 관점(전역 순위 및 개별 사례 분석)은 예측 품질을 희생하지 않으면서 모델의 추론 과정을 이해할 수 있게 합니다.