Hallucinationsdetektion — Faktuel konsistenskontrol for LLM-output

Hallucinationsdetektion er en natural-language-processing-pipeline, der måler, om outputtet fra en sprogmodel er konsistent med et referencedokument eller med verificerbare fakta. Formaliseret som en faithfulness-evalueringsopgave af Maynez et al. (2020) og udvidet til en zero-resource black-box-indstilling af Manakul et al. (2023) med SelfCheckGPT, bruges tilgangen til at markere upålidelige LLM-outputs inden for højrisikoområder som medicin, jura og journalistik.