Regjistër i dëshmive metodologjike

Direct Preference Optimization

Direct Preference Optimization (DPO) is a training method introduced by Rafailov et al. in 2023 that aligns language models with human preferences without requiring an explicit reward model. By directly optimizing for preference pairs (better response vs worse response), DPO simplifies the training pipeline compared to reinforcement learning from human feedback (RLHF).

Sources recorded, not reviewed

Regjistri burimor

Citimet kopjuar fjalë për fjalë nga regjistri burimor i metodës. Asnjë verifikim në nivel pretendimi nuk nënkuptohet prej tyre.

Direct Preference Optimization: Your Language Model is Secretly a Reward Model

Regjistri metodologjik taksonomik · ml-model / deep-learning

Rafailov, R., Sharma, A., Mitchell, E., Manning, C. D., Ermon, S., & Finn, C. (2023). Direct preference optimization: Your language model is secretly a reward model. arXiv preprint arXiv:2305.18290. · URL

Hap metodën e plotë

Pretendime të kuruaruara

Pretendimet e ruajtura në librin e dëshmive, secili me vlerësimin e vet.

Asnjë pretendim i kuruaruar ende

Ky pamje nuk shpik një vlerësim pretendimi kur libri i dëshmive nuk ka asnjë.

Metoda të lidhura

Të gjeneruara nga grafiku metodologjik dhe të paraqitura si marrëdhënie të sugjeruara nga makina — asnjë pretendim dëshmie nuk nënkuptohet.

Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.Same method familyQLoRAmachine-suggested · Relational suggestion, not evidence.