手法証拠記録
Hallucination Detection
Hallucination detection is a natural-language-processing pipeline that measures whether the output of a language model is consistent with a reference source document or with verifiable facts. Formalised as a faithfulness evaluation task by Maynez et al. (2020) and extended to a zero-resource black-box setting by Manakul et al. (2023) with SelfCheckGPT, the approach is used to flag unreliable LLM outputs in high-stakes domains such as medicine, law, and journalism.
出典記録
引用は手法の出典記録からそのままコピーされています。それらからレベルごとの検証は推論されません。
Hallucination Detection (Factual Consistency)
分類的手法記録 · process-pipeline / text-mining
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. · URL
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. · URL
キュレーションされた主張
主張は証拠台帳に永続化され、それぞれが独自の評価を持っています。
まだキュレーションされた主張はありません
このビューは、台帳に主張評価がない場合、主張評価を生成しません。
関連手法
手法グラフから生成され、機械が提案した関係として表示されます — 証拠主張は推論されません。