Detekcija halucinacija — Provjera faktualne dosljednosti za izlaze LLM-ova
Detekcija halucinacija je postupak obrade prirodnog jezika koji mjeri je li izlaz jezičnog modela dosljedan s referentnim izvornim dokumentom ili s provjerljivim činjenicama. Formaliziran kao zadatak evaluacije vjernosti od strane Mayneza et al. (2020.) i proširen na postavku crne kutije bez resursa od strane Manakula et al. (2023.) sa SelfCheckGPT-jem, pristup se koristi za označavanje nepouzdanih izlaza LLM-ova u domenama visokog rizika kao što su medicina, pravo i novinarstvo.
Pročitajte cijelu metodu
Prijavite se besplatnim računom kako biste pročitali ovaj odjeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/hr/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsRudarenje teksta↔ compare
- Prepoznavanje imenovanih entiteta (NER)Rudarenje teksta↔ compare
- Odgovaranjem na pitanja (QA)Rudarenje teksta↔ compare
- Analiza sentimentaRudarenje teksta↔ compare
- Klasifikacija tekstaRudarenje teksta↔ compare
Uočili ste pogrešku na ovoj stranici? Prijavite je ili predložite ispravak →