شناسایی توهم — بررسی سازگاری واقعی برای خروجیهای مدلهای زبانی بزرگ (LLM)
شناسایی توهم یک خط لوله پردازش زبان طبیعی است که میزان سازگاری خروجی یک مدل زبانی را با یک سند منبع مرجع یا با حقایق قابل تأیید اندازهگیری میکند. این رویکرد که توسط Maynez و همکاران (2020) به عنوان یک وظیفه ارزیابی وفاداری رسمیت یافت و توسط Manakul و همکاران (2023) با SelfCheckGPT به یک محیط جعبه سیاه با منابع صفر گسترش یافت، برای علامتگذاری خروجیهای نامعتبر LLM در حوزههای پرخطر مانند پزشکی، حقوق و روزنامهنگاری استفاده میشود.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
Method map
The neighbourhood of related methods — select a node to explore.
منابع
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/fa/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT Embeddingsمتنکاوی↔ compare
- بازشناسی موجودیت نامدار (NER)متنکاوی↔ compare
- پاسخگویی به پرسش (QA)متنکاوی↔ compare
- تحلیل احساساتمتنکاوی↔ compare
- طبقهبندی متنمتنکاوی↔ compare
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →