Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) är en pipeline för naturlig språkbehandling som introducerades av Lewis et al. 2020 och som stärker en stor språkmodell (LLM) med evidens hämtad vid inferens från en extern kunskapsbas. Istället för att enbart förlita sig på vad en modell memorerat under träning, hämtar RAG först de mest relevanta passagerna från ett dokumentindex och skickar sedan dessa passager till LLM:en som kontext, vilket förankrar det genererade svaret i verifierbar, aktuell information. Metoden minskar hallucination och tillåter domänspecifik eller tidskänslig kunskap att injiceras utan att träna om modellen.