Hallutsindamine — LLM-i väljundite faktilise järjepidevuse kontrollimine
Hallucination detection on mõeldud keeletehnoloogia (NLP) töövoog, mis mõõdab, kas keelemudeli väljund on kooskõlas viitedokumendi või kontrollitavate faktidega. Maynez jt (2020) formaliseerisid selle usaldusväärsuse hindamise ülesandena ja Manakul jt (2023) laiendasid seda null-ressursi musta kasti stsenaariumini koos SelfCheckGPT-ga. Seda lähenemisviisi kasutatakse ebausaldusväärsete keelemudelite väljundite märkimiseks kõrge riskiga valdkondades, nagu meditsiin, õigus ja ajakirjandus.
Loe meetodi täielikku kirjeldust
Selle osa lugemiseks logi sisse tasuta kontoga.
Method map
The neighbourhood of related methods — select a node to explore.
Allikad
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Kuidas sellele lehele viidata
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/et/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-i manusedTekstikaeve↔ compare
- Nimetatud üksuste äratundmine (NER)Tekstikaeve↔ compare
- Küsimustele vastamine (QA)Tekstikaeve↔ compare
- SentimentanalüüsTekstikaeve↔ compare
- Teksti klassifitseerimineTekstikaeve↔ compare
Märkasid sellel lehel viga? Teata sellest või paku parandust →