การตรวจจับการหลอน — การตรวจสอบความสอดคล้องเชิงข้อเท็จจริงสำหรับผลลัพธ์ของ LLM
การตรวจจับการหลอนเป็นกระบวนการประมวลผลภาษาธรรมชาติที่วัดว่าผลลัพธ์ของแบบจำลองภาษา (language model) มีความสอดคล้องกับเอกสารอ้างอิงหรือข้อเท็จจริงที่ตรวจสอบได้หรือไม่ แนวทางนี้ซึ่งถูกกำหนดรูปแบบเป็นงานประเมินความซื่อสัตย์ (faithfulness evaluation) โดย Maynez และคณะ (2020) และขยายไปยังการตั้งค่าแบบกล่องดำ (black-box) ที่ไม่ต้องใช้ข้อมูลอ้างอิง (zero-resource) โดย Manakul และคณะ (2023) ด้วย SelfCheckGPT ถูกนำมาใช้เพื่อระบุผลลัพธ์ของ LLM ที่ไม่น่าเชื่อถือในโดเมนที่มีความสำคัญสูง เช่น การแพทย์ กฎหมาย และวารสารศาสตร์
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/th/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT Embeddingsการทำเหมืองข้อความ↔ compare
- การรู้จำหน่วยคำนาม (Named Entity Recognition - NER)การทำเหมืองข้อความ↔ compare
- การตอบคำถาม (Question Answering - QA)การทำเหมืองข้อความ↔ compare
- การวิเคราะห์ความรู้สึกการทำเหมืองข้อความ↔ compare
- การจำแนกข้อความการทำเหมืองข้อความ↔ compare