Process / pipeline
환각 탐지 — LLM 출력의 사실적 일관성 검증
환각 탐지는 언어 모델의 출력이 참조 소스 문서 또는 검증 가능한 사실과 일관되는지 여부를 측정하는 자연어 처리 파이프라인입니다. Maynez 등(2020)에 의해 충실도 평가 작업으로 형식화되었고 Manakul 등(2023)에 의해 SelfCheckGPT를 사용하여 제로 리소스 블랙박스 설정으로 확장된 이 접근 방식은 의학, 법률, 저널리즘과 같은 고위험 영역에서 신뢰할 수 없는 LLM 출력을 표시하는 데 사용됩니다.
방법 전문 읽기
회원 전용
로그인무료 계정으로 로그인하면 이 섹션을 읽을 수 있습니다.
Method map
The neighbourhood of related methods — select a node to explore.
출처
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
이 페이지 인용 방법
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/ko/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT 임베딩텍스트 마이닝↔ compare
- 개체명 인식 (NER)텍스트 마이닝↔ compare
- 질의응답(QA)텍스트 마이닝↔ compare
- 감성 분석텍스트 마이닝↔ compare
- 텍스트 분류텍스트 마이닝↔ compare