Generování s rozšířeným vyhledáváním (RAG)

Generování s rozšířeným vyhledáváním (RAG) je pipeline pro zpracování přirozeného jazyka, kterou představili Lewis et al. v roce 2020 a která posiluje velký jazykový model (LLM) o důkazy získané v době inference z externí znalostní báze. Namísto spoléhání se pouze na to, co si model zapamatoval během tréninku, RAG nejprve vyhledá nejrelevantnější pasáže z indexu dokumentů a poté tyto pasáže předá LLM jako kontext, čímž ukotví generovanou odpověď v ověřitelných a aktuálních informacích. Tento přístup snižuje halucinace a umožňuje vkládání doménově specifických nebo časově citlivých znalostí bez přeškolení modelu.