Détection des hallucinations — Vérification de la cohérence factuelle des sorties des LLM

La détection des hallucinations est un pipeline de traitement du langage naturel qui mesure si la sortie d'un modèle linguistique est cohérente avec un document source de référence ou avec des faits vérifiables. Formalisée comme une tâche d'évaluation de la fidélité par Maynez et al. (2020) et étendue à un cadre boîte noire sans ressources par Manakul et al. (2023) avec SelfCheckGPT, cette approche est utilisée pour signaler les sorties de LLM peu fiables dans des domaines à enjeux élevés tels que la médecine, le droit et le journalisme.