Откриване на халюцинации — Проверка на фактическата последователност за изходи от големи езикови модели (ГЕМ)

Откриването на халюцинации е процес в обработката на естествен език, който измерва дали изходът на езиков модел е съгласуван с референтен изходен документ или с проверими факти. Формализиран като задача за оценка на достоверността от Maynez et al. (2020) и разширен до настройка на черна кутия с нулеви ресурси от Manakul et al. (2023) със SelfCheckGPT, подходът се използва за отбелязване на ненадеждни изходи от ГЕМ в области с висок риск като медицина, право и журналистика.