मतिभ्रम का पता लगाना — एलएलएम आउटपुट के लिए तथ्यात्मक संगति की जाँच
मतिभ्रम का पता लगाना एक प्राकृतिक-भाषा-प्रसंस्करण पाइपलाइन है जो मापती है कि क्या किसी भाषा मॉडल का आउटपुट किसी संदर्भ स्रोत दस्तावेज़ या सत्यापन योग्य तथ्यों के अनुरूप है। मेनेज़ एट अल. (2020) द्वारा एक निष्ठा मूल्यांकन कार्य के रूप में औपचारिक रूप दिया गया और मैनकुल एट अल. (2023) द्वारा सेल्फचेकजीपीटी के साथ शून्य-संसाधन ब्लैक-बॉक्स सेटिंग में विस्तारित किया गया, इस दृष्टिकोण का उपयोग चिकित्सा, कानून और पत्रकारिता जैसे उच्च-दांव वाले डोमेन में अविश्वसनीय एलएलएम आउटपुट को चिह्नित करने के लिए किया जाता है।
पूरी विधि पढ़ें
यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
पद्धति मानचित्र
सम्बन्धित पद्धतियों का परिवेश — अन्वेषण हेतु किसी नोड का चयन करें।
स्रोत
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/hi/text-mining/hallucination-detection
कौन-सी पद्धति?
इस पद्धति को उसकी निकटतम सजातीय पद्धतियों के साथ रखकर उन्हें साथ-साथ पढ़ें — पुस्तकालय पुस्तकें मेज़ पर रख देता है; चुनाव आपका है।
- BERT एम्बेडिंगपाठ खनन↔ तुलना करें
- नामित इकाई पहचान (NER)पाठ खनन↔ तुलना करें
- प्रश्न उत्तरण (QA)पाठ खनन↔ तुलना करें
- भाव विश्लेषणपाठ खनन↔ तुलना करें
- पाठ वर्गीकरणपाठ खनन↔ तुलना करें