Откривање халуцинација — Провера чињеничне конзистентности излаза ЛЛМ-а
Откривање халуцинација је поступак обраде природног језика који мери да ли је излаз језичког модела конзистентан са референтним документом или са проверљивим чињеницама. Формализован као задатак евалуације верности од стране Maynez et al. (2020) и проширен на црно-кутијско окружење са нултом ресурса од стране Manakul et al. (2023) са SelfCheckGPT, овај приступ се користи за означавање непоузданих излаза ЛЛМ-а у доменима високог ризика као што су медицина, право и новинарство.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/sr/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsRudarenje teksta↔ compare
- Prepoznavanje imenovanih entiteta (NER)Rudarenje teksta↔ compare
- Одговарање на питања (Question Answering, QA)Rudarenje teksta↔ compare
- Analiza sentimentaRudarenje teksta↔ compare
- Klasifikacija tekstaRudarenje teksta↔ compare
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →