الكشف عن الهلوسة — التحقق من الاتساق الواقعي لمخرجات نماذج اللغة الكبيرة
الكشف عن الهلوسة هو خط أنابيب لمعالجة اللغة الطبيعية يقيس ما إذا كانت مخرجات نموذج اللغة متسقة مع مستند مرجعي أو مع حقائق يمكن التحقق منها. تم تأطير هذه المهمة كتقييم للإخلاص (faithfulness evaluation) بواسطة Maynez وآخرون (2020) وتم توسيعها إلى إعداد صندوق أسود بموارد صفرية (zero-resource black-box setting) بواسطة Manakul وآخرون (2023) باستخدام SelfCheckGPT، ويُستخدم هذا النهج للإبلاغ عن مخرجات نماذج اللغة الكبيرة غير الموثوقة في مجالات عالية المخاطر مثل الطب والقانون والصحافة.
اقرأ الطريقة كاملة
سجّل الدخول بحساب مجاني لقراءة هذا القسم.
Method map
The neighbourhood of related methods — select a node to explore.
المصادر
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/ar/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- تضمينات BERTتنقيب النصوص↔ compare
- التعرف على الكيانات المسماة (NER)تنقيب النصوص↔ compare
- الإجابة على الأسئلة (QA)تنقيب النصوص↔ compare
- تحليل المشاعرتنقيب النصوص↔ compare
- تصنيف النصوصتنقيب النصوص↔ compare