Detecció d'al·lucinacions — Comprovació de consistència factual dels resultats de LLM
La detecció d'al·lucinacions és un pipeline de processament del llenguatge natural que mesura si la sortida d'un model de llenguatge és coherent amb un document de referència o amb fets verificables. Formalitzada com una tasca d'avaluació de fidelitat per Maynez et al. (2020) i estesa a un entorn de caixa negra sense recursos per Manakul et al. (2023) amb SelfCheckGPT, l'aproximació s'utilitza per assenyalar resultats de LLM poc fiables en dominis d'alt risc com la medicina, el dret i el periodisme.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
Fonts
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/ca/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsMineria de text↔ compare
- Reconeixement d'Entitats Nomenades (NER)Mineria de text↔ compare
- Preguntes i Respostes (QA)Mineria de text↔ compare
- Anàlisi de sentimentsMineria de text↔ compare
- Classificació de textMineria de text↔ compare
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →