Generovanie s rozšírením vyhľadávaním (RAG)

Retrieval-Augmented Generation (RAG) je pipeline spracovania prirodzeného jazyka, ktorý predstavili Lewis et al. v roku 2020 a ktorý posilňuje rozsiahly jazykový model (LLM) pomocou dôkazov získaných v čase inferencie z externej znalostnej bázy. Namiesto toho, aby sa RAG spoliehal výlučne na to, čo si model zapamätal počas tréningu, najprv vyhľadá najrelevantnejšie pasáže z indexu dokumentov a potom tieto pasáže poskytne LLM ako kontext, čím uzemní generovanú odpoveď vo overiteľných, aktuálnych informáciách. Tento prístup znižuje halucinácie a umožňuje vstrekovanie doménovo špecifických alebo časovo citlivých znalostí bez potreby pretrénovania modelu.