Hallucinaatioiden tunnistus — LLM-tulosteiden faktuaalisen johdonmukaisuuden tarkistus
Hallucinaatioiden tunnistus on luonnollisen kielen käsittelyyn perustuva putki, joka mittaa, onko kielimallin tuotos johdonmukainen viitelähteeksi tarkoitetun dokumentin tai todennettavissa olevien faktojen kanssa. Maynez et al. (2020) formalisoivat tämän uskollisuuden arviointitehtävänä ja Manakul et al. (2023) laajensivat sen nollavaraiseen mustan laatikon asetelmaan SelfCheckGPT:llä. Menetelmää käytetään epäluotettavien LLM-tulosteiden merkitsemiseen korkean panoksen aloilla, kuten lääketieteessä, oikeustieteessä ja journalismissa.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Method map
The neighbourhood of related methods — select a node to explore.
Lähteet
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), 1906-1919. link ↗
- Manakul, P., Liusie, A., & Gales, M.J.F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP), 9004-9017. link ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 1). Hallucination Detection (Factual Consistency). ScholarGate. https://scholargate.app/fi/text-mining/hallucination-detection
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-upotukset – kontekstisidonnaiset tekstiesityksetTekstinlouhinta↔ compare
- Nimettyjen entiteettien tunnistus (NER)Tekstinlouhinta↔ compare
- Kysymys-vastaus (QA)Tekstinlouhinta↔ compare
- Sentiment AnalysisTekstinlouhinta↔ compare
- TekstinluokitteluTekstinlouhinta↔ compare
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →