SHAP (SHapley Additive exPlanations)

SHAP ni njia ya kueleza miundo, iliyoanzishwa na Scott Lundberg na Su-In Lee mwaka 2017, inayotumia maadili ya Shapley kutoka nadharia ya michezo ya ushirika kupima ni kiasi gani kila kipengele kinachangia utabiri wa mtu binafsi, na kufanya matokeo ya miundo ya akili bandia ya kisanduku cheusi kuwa ya kueleweka. Inasaidia maelezo ya jumla (umuhimu wa kipengele kwa ujumla) na maelezo mahususi (kwa nini utabiri mmoja maalum ulitokea hivyo).