Detektion av hallucinationer — Kontroll av faktisk konsistens för LLM-utdata

Hallucinationsdetektion är en pipeline för naturlig språkbehandling som mäter huruvida utdata från en språkmodell är konsekvent med ett referensdokument eller med verifierbara fakta. Formaliserat som en utvärderingsuppgift för trogenhet av Maynez et al. (2020) och utvidgat till en nollresurs-svartboxmiljö av Manakul et al. (2023) med SelfCheckGPT, används metoden för att flagga opålitliga LLM-utdata inom högrisdområden som medicin, juridik och journalistik.