Hallusinasjonsdeteksjon — Sjekk av faktabasert konsistens for LLM-utdata

Hallusinasjonsdeteksjon er en pipeline for naturlig språkbehandling som måler hvorvidt utdata fra en språkmodell er konsistent med et referansedokument eller med verifiserbare fakta. Formalisert som en evalueringsoppgave for troskap (faithfulness) av Maynez et al. (2020) og utvidet til en nullressurs-svartboksinnstilling av Manakul et al. (2023) med SelfCheckGPT, brukes tilnærmingen til å flagge upålitelige LLM-utdata i høyrisikodomener som medisin, jus og journalistikk.