Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) er en pipeline inden for naturlig sprogbehandling, introduceret af Lewis et al. i 2020, der styrker en stor sprogmodel (LLM) med evidens hentet på inferenstidspunktet fra en ekstern vidensbase. I stedet for udelukkende at stole på, hvad en model har husket under træning, henter RAG først de mest relevante passager fra et dokumentindeks og giver derefter disse passager til LLM'en som kontekst, hvilket forankrer det genererede svar i verificerbar, opdateret information. Tilgangen reducerer hallucination og tillader, at domænespecifik eller tidssensitiv viden kan injiceres uden at genoptræne modellen.