Detecção de Alucinações — Verificação de Consistência Factual para Saídas de LLM

A detecção de alucinações é um pipeline de processamento de linguagem natural que mede se a saída de um modelo de linguagem é consistente com um documento de referência ou com fatos verificáveis. Formalizada como uma tarefa de avaliação de fidelidade por Maynez et al. (2020) e estendida para um cenário de caixa-preta com recurso zero por Manakul et al. (2023) com SelfCheckGPT, a abordagem é usada para sinalizar saídas de LLM não confiáveis em domínios de alto risco, como medicina, direito e jornalismo.