Ανίχνευση Ψευδαισθήσεων — Έλεγχος Πραγματολογικής Συνέπειας για τις Εξόδους των LLM

Η ανίχνευση ψευδαισθήσεων είναι μια διαδικασία επεξεργασίας φυσικής γλώσσας που μετρά κατά πόσο η έξοδος ενός γλωσσικού μοντέλου είναι συνεπής με ένα έγγραφο αναφοράς ή με επαληθεύσιμα γεγονότα. Επισήμως διατυπωμένη ως εργασία αξιολόγησης πιστότητας από τους Maynez et al. (2020) και επεκταθείσα σε ένα black-box περιβάλλον μηδενικών πόρων από τους Manakul et al. (2023) με το SelfCheckGPT, η προσέγγιση χρησιμοποιείται για την επισήμανση αναξιόπιστων εξόδων LLM σε τομείς υψηλού κινδύνου όπως η ιατρική, η νομική και η δημοσιογραφία.