Detekcia halucinácií — Kontrola faktickej konzistencie výstupov LLM
Detekcia halucinácií je proces spracovania prirodzeného jazyka, ktorý meria, či je výstup jazykového modelu konzistentný s referenčným zdrojovým dokumentom alebo overiteľnými faktami. Tento prístup, formalizovaný ako úloha hodnotenia vernosti (faithfulness evaluation) Maynezom a kol. (2020) a rozšírený na prostredie s nulovými zdrojmi a čiernou skrinkou (zero-resource black-box setting) Manakulom a kol. (2023) pomocou SelfCheckGPT, sa používa na označenie nespoľahlivých výstupov LLM vo vysoko rizikových doménach, ako je medicína, právo a žurnalistika.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Ako citovať túto stránku
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/sk/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Vložené reprezentácie BERTDolovanie textu↔ compare
- Rozpoznávanie pomenovaných entít (NER)Dolovanie textu↔ compare
- Zodpovedanie otázok (QA)Dolovanie textu↔ compare
- Analýza sentimentuDolovanie textu↔ compare
- Klasifikácia textuDolovanie textu↔ compare
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →