Process / pipeline
זיהוי הזיות — בדיקת עקביות עובדתית עבור פלטי מודלי שפה גדולים
זיהוי הזיות הוא תהליך עיבוד שפה טבעית המודד האם הפלט של מודל שפה עקבי עם מסמך מקור התייחסות או עם עובדות ניתנות לאימות. מוגדר כמשימת הערכת נאמנות על ידי מאינז ועמיתיו (2020) והורחב להגדרה של משאב-אפס במצב קופסה-שחורה על ידי מנקול ועמיתיו (2023) עם SelfCheckGPT, הגישה משמשת לסימון פלטי LLM לא אמינים בתחומים בעלי סיכון גבוה כגון רפואה, משפטים ועיתונאות.
קראו את השיטה במלואה
לחברים בלבד
התחברותהתחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/he/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT Embeddingsכריית טקסט↔ compare
- זיהוי ישויות מוכרות (NER)כריית טקסט↔ compare
- מענה על שאלות (QA)כריית טקסט↔ compare
- ניתוח סנטימנטכריית טקסט↔ compare
- סיווג טקסטכריית טקסט↔ compare