Hồ sơ bằng chứng phương pháp

Direct Preference Optimization

Direct Preference Optimization (DPO) is a training method introduced by Rafailov et al. in 2023 that aligns language models with human preferences without requiring an explicit reward model. By directly optimizing for preference pairs (better response vs worse response), DPO simplifies the training pipeline compared to reinforcement learning from human feedback (RLHF).

Sources recorded, not reviewed

Hồ sơ nguồn

Các trích dẫn được sao chép nguyên văn từ hồ sơ nguồn của phương pháp. Không có xác minh cấp độ yêu cầu nào được suy ra từ chúng.

Direct Preference Optimization: Your Language Model is Secretly a Reward Model

Hồ sơ phương pháp phân loại · ml-model / deep-learning

Rafailov, R., Sharma, A., Mitchell, E., Manning, C. D., Ermon, S., & Finn, C. (2023). Direct preference optimization: Your language model is secretly a reward model. arXiv preprint arXiv:2305.18290. · URL

Mở phương pháp đầy đủ

Các yêu cầu được tuyển chọn

Các yêu cầu được lưu trữ trong sổ cái bằng chứng, mỗi yêu cầu có đánh giá riêng.

Chưa có yêu cầu được tuyển chọn

Chế độ xem này không tạo ra đánh giá yêu cầu khi sổ cái không có.

Các phương pháp liên quan

Được tạo từ biểu đồ phương pháp và hiển thị dưới dạng các mối quan hệ được đề xuất bởi máy — không có yêu cầu bằng chứng nào được suy ra.

Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.Same method familyQLoRAmachine-suggested · Relational suggestion, not evidence.