Hallucinációdetektálás – Ténybeli konzisztenciaellenőrzés LLM kimenetekhez

A hallucinációdetektálás egy természetesnyelv-feldolgozási pipeline, amely azt méri, hogy egy nyelvi modell kimenete konzisztens-e egy referenciaforrás-dokumentummal vagy ellenőrizhető tényekkel. Maynez et al. (2020) által hűségértékelési feladatként formalizálva, és Manakul et al. (2023) által a SelfCheckGPT-vel egy nulla erőforrású fekete dobozos környezetre kiterjesztve, a megközelítést a megbízhatatlan LLM kimenetek jelzésére használják magas kockázatú területeken, mint például az orvostudomány, a jog és az újságírás.