Запись доказательств метода

Direct Preference Optimization

Direct Preference Optimization (DPO) is a training method introduced by Rafailov et al. in 2023 that aligns language models with human preferences without requiring an explicit reward model. By directly optimizing for preference pairs (better response vs worse response), DPO simplifies the training pipeline compared to reinforcement learning from human feedback (RLHF).

Sources recorded, not reviewed

Исходная запись

Цитирование скопировано дословно из исходной записи метода. На его основании не делается никаких выводов о проверке на уровне утверждения.

Direct Preference Optimization: Your Language Model is Secretly a Reward Model

Таксономическая запись метода · ml-model / deep-learning

Rafailov, R., Sharma, A., Mitchell, E., Manning, C. D., Ermon, S., & Finn, C. (2023). Direct preference optimization: Your language model is secretly a reward model. arXiv preprint arXiv:2305.18290. · URL

Открыть полный метод

Курируемые утверждения

Утверждения сохранены в реестре доказательств, каждое со своей оценкой.

Курируемых утверждений еще нет

Этот вид не создает оценку утверждения, если в реестре ее нет.

Связанные методы

Сгенерировано из графа методов и показано как предложенные машиной связи — никаких выводов об утверждениях доказательств не делается.

Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.Same method familyQLoRAmachine-suggested · Relational suggestion, not evidence.