Wykrywanie halucynacji — sprawdzanie spójności faktograficznej wyników LLM
Wykrywanie halucynacji to potok przetwarzania języka naturalnego, który mierzy, czy wyjście modelu językowego jest spójne z dokumentem źródłowym lub weryfikowalnymi faktami. Sformalizowane jako zadanie oceny wierności przez Maynez et al. (2020) i rozszerzone do ustawienia zero-resource black-box przez Manakul et al. (2023) z SelfCheckGPT, podejście to jest wykorzystywane do oznaczania nierzetelnych wyników LLM w domenach wysokiego ryzyka, takich jak medycyna, prawo i dziennikarstwo.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
Źródła
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Jak cytować tę stronę
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/pl/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Osadzenia BERTEksploracja tekstu↔ compare
- Rozpoznawanie nazw własnych (NER)Eksploracja tekstu↔ compare
- Odpowiadanie na pytania (QA)Eksploracja tekstu↔ compare
- Analiza sentymentuEksploracja tekstu↔ compare
- Klasyfikacja TekstuEksploracja tekstu↔ compare
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →