Explainable Random Forest (Interpretable Ensemble with Feature Attribution)

Msitu Reliwaji wa kawaida ni kundi la miti ya uamuzi inayopiga kura pamoja: ni sahihi lakini haieleweki. Msitu Reliwaji unaoelezeka hufungua kisanduku hicho cheusi kwa kujibu maswali mawili: kwa ujumla, ni vipengele vipi vinavyoendesha modeli zaidi kwa wastani, na kwa kiwango cha mahali husika, kwa nini modeli ilitoa utabiri huu maalum kwa uchunguzi huu maalum? Maadili ya SHAP, yaliyojikita katika nadharia ya mchezo wa ushirika, huipa kila kipengele sehemu ya haki, ya nyongeza ya pengo la utabiri kutoka kwa kiwango cha msingi — kama kugawanya sifa kwa haki miongoni mwa wanachama wa timu. Mtazamo huu wa pande mbili (cheo cha jumla pamoja na maelezo ya kiwango cha kesi) hufanya hoja ya modeli iweze kusomeka bila kuathiri ubora wa utabiri.