Gjenfinningsstøttet generering (RAG)

Retrieval-Augmented Generation (RAG) er en pipeline for naturlig språkbehandling introdusert av Lewis et al. i 2020, som styrker en stor språkmodell (LLM) med evidens hentet under inferens fra en ekstern kunnskapsbase. I stedet for å utelukkende stole på hva en modell har memorert under trening, henter RAG først de mest relevante passasjene fra en dokumentindeks og gir deretter disse passasjene til LLM-en som kontekst, noe som forankrer det genererte svaret i verifiserbar, oppdatert informasjon. Tilnærmingen reduserer hallusinasjon og gjør det mulig å injisere domenespesifikk eller tidssensitiv kunnskap uten å trene modellen på nytt.