Erkennung von Halluzinationen — Überprüfung der faktischen Konsistenz von LLM-Ausgaben
Die Erkennung von Halluzinationen ist eine Pipeline zur Verarbeitung natürlicher Sprache, die misst, ob die Ausgabe eines Sprachmodells mit einem Referenzquellendokument oder mit überprüfbaren Fakten konsistent ist. Formalisiert als eine Aufgabe zur Bewertung der Treue (faithfulness) durch Maynez et al. (2020) und erweitert auf eine Zero-Resource-Black-Box-Umgebung durch Manakul et al. (2023) mit SelfCheckGPT, wird der Ansatz verwendet, um unzuverlässige LLM-Ausgaben in Hochrisikobereichen wie Medizin, Recht und Journalismus zu kennzeichnen.
Die vollständige Methode lesen
Melden Sie sich mit einem kostenlosen Konto an, um diesen Abschnitt zu lesen.
Method map
The neighbourhood of related methods — select a node to explore.
Quellen
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
So zitieren Sie diese Seite
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/de/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-EinbettungenText Mining↔ compare
- Benannte Entitätenerkennung (NER)Text Mining↔ compare
- Fragebeantwortung (QA)Text Mining↔ compare
- Sentiment-AnalyseText Mining↔ compare
- TextklassifizierungText Mining↔ compare
Einen Fehler auf dieser Seite entdeckt? Melden oder Korrektur vorschlagen →