Halucināciju noteikšana — Faktuālas konsekvences pārbaude LLM izvadei
Halucināciju noteikšana ir dabisko valodu apstrādes (NLP) pipeline, kas mēra, vai valodu modeļa izvade ir saskaņā ar atsauces avota dokumentu vai pārbaudāmiem faktiem. Formalizēta kā uzticamības novērtēšanas uzdevums (faithfulness evaluation task) ar Maynez et al. (2020) un paplašināta uz nulles resursu (zero-resource) melnās kastes (black-box) iestatījumu ar SelfCheckGPT (Manakul et al., 2023), šī pieeja tiek izmantota, lai atzīmētu neuzticamas LLM izvades augsta riska domēnos, piemēram, medicīnā, tiesību zinātnē un žurnālistikā.
Lasīt pilno metodes aprakstu
Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.
Method map
The neighbourhood of related methods — select a node to explore.
Avoti
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Kā citēt šo lapu
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/lv/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsTeksta ieguve↔ compare
- Nosaukuma entītiju atpazīšana (NER)Teksta ieguve↔ compare
- Jautājumu atbildēšana (QA)Teksta ieguve↔ compare
- Sentimentu analīzeTeksta ieguve↔ compare
- Tekstu klasifikācijaTeksta ieguve↔ compare
Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →