LIME: Local Interpretable Model-agnostic Explanations

LIMEは、2016年にRibeiro, Singh,およびGuestrinによって導入された手法であり、任意のブラックボックス分類器または回帰器の予測を、関心のある単一の予測の周りに単純で局所的に忠実な代理モデルを構築することによって説明します。LIMEは、グローバルなモデルを説明するのではなく、特定のインスタンスがそのように分類された理由に焦点を当てており、ディープニューラルネットワークやアンサンブル法のような複雑なモデルをエンドユーザー、ドメインエキスパート、および監査人が理解できるようにします。