Hallucination Detection
Hallucination detection is a natural-language-processing pipeline that measures whether the output of a language model is consistent with a reference source document or with verifiable facts. Formalised as a faithfulness evaluation task by Maynez et al. (2020) and extended to a zero-resource black-box setting by Manakul et al. (2023) with SelfCheckGPT, the approach is used to flag unreliable LLM outputs in high-stakes domains such as medicine, law, and journalism.
উৎস রেকর্ড
পদ্ধতির উৎস রেকর্ড থেকে উদ্ধৃতিগুলি হুবহু অনুলিপি করা হয়েছে। এগুলি থেকে কোনও দাবি-স্তরের যাচাইকরণ অনুমান করা হয় না।
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. · URL
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. · URL
কিউরেটেড দাবি
প্রমাণ লেজারে দাবিগুলি সংরক্ষিত আছে, প্রতিটির নিজস্ব মূল্যায়ন সহ।
প্রমাণ লেজারে কিছু না থাকলে এই ভিউ কোনও দাবি মূল্যায়ন তৈরি করে না।
সম্পর্কিত পদ্ধতি
পদ্ধতি গ্রাফ থেকে তৈরি এবং মেশিন-প্রস্তাবিত সম্পর্ক হিসাবে দেখানো হয়েছে — কোনও প্রমাণ দাবি অনুমান করা হয় না।