Detección de alucinaciones — Verificación de la consistencia fáctica de las salidas de los LLM

La detección de alucinaciones es un pipeline de procesamiento del lenguaje natural que mide si la salida de un modelo de lenguaje es consistente con un documento fuente de referencia o con hechos verificables. Formalizado como una tarea de evaluación de fidelidad por Maynez et al. (2020) y extendido a un entorno de caja negra de recursos cero por Manakul et al. (2023) con SelfCheckGPT, el enfoque se utiliza para señalar las salidas poco fiables de los LLM en dominios de alto riesgo como la medicina, el derecho y el periodismo.