Обнаружение галлюцинаций — проверка фактической согласованности выходных данных LLM

Обнаружение галлюцинаций — это конвейер обработки естественного языка, который измеряет, соответствует ли выходные данные языковой модели исходному документу-источнику или проверяемым фактам. Формализованный как задача оценки верности Майнезом и др. (2020) и расширенный до сценария с нулевым ресурсом и черным ящиком Манакулом и др. (2023) с помощью SelfCheckGPT, этот подход используется для маркировки ненадежных выходных данных LLM в областях с высокими ставками, таких как медицина, право и журналистика.