Hallucination Detection
Hallucination detection is a natural-language-processing pipeline that measures whether the output of a language model is consistent with a reference source document or with verifiable facts. Formalised as a faithfulness evaluation task by Maynez et al. (2020) and extended to a zero-resource black-box setting by Manakul et al. (2023) with SelfCheckGPT, the approach is used to flag unreliable LLM outputs in high-stakes domains such as medicine, law, and journalism.
Registre font
Les citacions es copien textualment del registre font del mètode. No s'infereix cap verificació a nivell de reclam d'elles.
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. · URL
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. · URL
Reclamacions curades
Les reclamacions s'han persistit al registre de proves, cadascuna amb la seva pròpia avaluació.
Aquesta vista no inventa una avaluació de reclam quan el registre no en té cap.
Mètodes relacionats
Generat a partir del gràfic de mètodes i mostrat com a relacions suggerides per la màquina; no s'infereix cap reclamació d'evidència.