Phát hiện ảo giác — Kiểm tra tính nhất quán về mặt thực tế cho đầu ra của LLM
Phát hiện ảo giác là một quy trình xử lý ngôn ngữ tự nhiên nhằm đo lường xem đầu ra của một mô hình ngôn ngữ có nhất quán với tài liệu nguồn tham chiếu hoặc với các sự kiện có thể kiểm chứng được hay không. Được Maynez et al. (2020) hình thức hóa thành một nhiệm vụ đánh giá độ trung thực và được Manakul et al. (2023) mở rộng sang thiết lập hộp đen không tài nguyên với SelfCheckGPT, phương pháp này được sử dụng để gắn cờ các đầu ra LLM không đáng tin cậy trong các lĩnh vực có rủi ro cao như y học, luật pháp và báo chí.
Đọc toàn bộ phương pháp
Đăng nhập bằng tài khoản miễn phí để đọc phần này.
Method map
The neighbourhood of related methods — select a node to explore.
Nguồn tài liệu
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Cách trích dẫn trang này
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/vi/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsKhai phá văn bản↔ compare
- Nhận dạng thực thể có tên (NER)Khai phá văn bản↔ compare
- Question Answering (QA)Khai phá văn bản↔ compare
- Phân tích Cảm xúcKhai phá văn bản↔ compare
- Phân loại văn bảnKhai phá văn bản↔ compare
Phát hiện lỗi trên trang này? Báo cáo hoặc đề xuất chỉnh sửa →