Direktna optimizacija preferencija
Direktna optimizacija preferencija (DPO) je metoda obuke koju su uveli Rafailov et al. 2023. godine, a koja usklađuje jezičke modele sa ljudskim preferencijama bez potrebe za eksplicitnim modelom nagrađivanja. Direktnim optimizovanjem parova preferencija (bolji odgovor naspram lošijeg odgovora), DPO pojednostavljuje proces obuke u poređenju sa učenjem potkrepljenjem iz povratnih informacija ljudi (RLHF).
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Rafailov, R., Sharma, A., Mitchell, E., Manning, C. D., Ermon, S., & Finn, C. (2023). Direct preference optimization: Your language model is secretly a reward model. arXiv preprint arXiv:2305.18290. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. ScholarGate. https://scholargate.app/sr/deep-learning/direct-preference-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Latentni difuzioni modeliDuboko učenje↔ compare
- Mamba (model prostora stanja)Duboko učenje↔ compare
- Masked AutoencodersDuboko učenje↔ compare
- QLoRADuboko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →