Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) ialah saluran pemprosesan bahasa semula jadi yang diperkenalkan oleh Lewis et al. pada tahun 2020 yang mengukuhkan model bahasa besar (LLM) dengan bukti yang diambil pada masa inferens daripada pangkalan pengetahuan luaran. Berbanding hanya bergantung pada apa yang diingati oleh model semasa latihan, RAG pertama-tama mengambil semula bahagian yang paling relevan daripada indeks dokumen dan kemudian menyerahkan bahagian tersebut kepada LLM sebagai konteks, mengasaskan jawapan yang dijana pada maklumat yang boleh disahkan dan terkini. Pendekatan ini mengurangkan halusinasi dan membolehkan pengetahuan khusus domain atau sensitif masa disuntik tanpa melatih semula model.