Detecția halucinațiilor — Verificarea consistenței factuale pentru ieșirile LLM
Detecția halucinațiilor este un flux de procesare a limbajului natural care măsoară dacă ieșirea unui model lingvistic este consistentă cu un document sursă de referință sau cu fapte verificabile. Formalizată ca o sarcină de evaluare a fidelității de către Maynez et al. (2020) și extinsă la un cadru black-box cu resurse zero de către Manakul et al. (2023) cu SelfCheckGPT, abordarea este utilizată pentru a semnala ieșirile LLM nesigure în domenii cu miză mare, cum ar fi medicina, dreptul și jurnalismul.
Citește metoda completă
Autentifică-te cu un cont gratuit pentru a citi această secțiune.
Method map
The neighbourhood of related methods — select a node to explore.
Surse
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Cum se citează această pagină
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/ro/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Embeddings BERTMineritul textelor↔ compare
- Recunoașterea entităților numite (NER)Mineritul textelor↔ compare
- Răspunsul la întrebări (QA)Mineritul textelor↔ compare
- Analiza sentimentelorMineritul textelor↔ compare
- Clasificarea textuluiMineritul textelor↔ compare
Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →