Виявлення галюцинацій — Перевірка фактичної узгодженості вихідних даних мовних моделей
Виявлення галюцинацій — це конвеєр обробки природної мови, який вимірює, чи узгоджуються вихідні дані мовної моделі з референсним вихідним документом або з перевіреними фактами. Формалізований як завдання оцінки вірності (faithfulness) Мейнезом та ін. (2020) і розширений до нульового ресурсу в чорному ящику Манакулом та ін. (2023) за допомогою SelfCheckGPT, цей підхід використовується для позначення ненадійних вихідних даних LLM у доменах високого ризику, таких як медицина, право та журналістика.
Читати метод повністю
Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.
Method map
The neighbourhood of related methods — select a node to explore.
Джерела
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Як цитувати цю сторінку
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/uk/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsІнтелектуальний аналіз тексту↔ compare
- Розпізнавання іменованих сутностей (NER)Інтелектуальний аналіз тексту↔ compare
- Системи запитань-відповідей (QA)Інтелектуальний аналіз тексту↔ compare
- Сентимент-аналізІнтелектуальний аналіз тексту↔ compare
- Класифікація текстуІнтелектуальний аналіз тексту↔ compare
Помітили помилку на цій сторінці? Повідомте про неї або запропонуйте виправлення →