Erklärbares Named Entity Recognition

Explainable Named Entity Recognition (XAI-NER) kombiniert ein Standard-NER-Modell – typischerweise einen BERT-basierten oder BiLSTM-CRF-Sequenzlabeler – mit post-hoc oder intrinsischen Erklärbarkeitsverfahren wie LIME, SHAP, Aufmerksamkeitsvisualisierung oder gradientenbasierten Saliency-Maps, um aufzudecken, warum jedem Token ein bestimmter Entitätslabel zugewiesen wurde. Diese Transparenz ist in Hochrisikobereichen wie klinischen Texten, juristischen Dokumenten und biomedizinischer Literatur unerlässlich.