Contrastive Learning for NLP
Contrastive learning for NLP is a representation-learning technique — popularised by SimCSE (Gao et al., 2021) and Supervised Contrastive Learning (Khosla et al., 2020) — that trains a text encoder by pulling embeddings of similar text pairs together while pushing embeddings of dissimilar pairs apart. The result is a dense, high-quality embedding space that can be learned with no labels at all, or with minimal supervision, making it especially valuable when annotated data are scarce.
سجل المصدر
تم نسخ الاستشهادات حرفيًا من سجل مصدر المنهج. لا يُستدل على أي تحقق على مستوى الادعاء منها.
- Gao, T., Yao, X., & Chen, D. (2021). SimCSE: Simple Contrastive Learning of Sentence Embeddings. Proceedings of EMNLP 2021. · URL
- Khosla, P., et al. (2020). Supervised Contrastive Learning. Advances in Neural Information Processing Systems (NeurIPS) 33. · URL
الادعاءات المنسقة
تم حفظ الادعاءات في دفتر الأستاذ الخاص بالأدلة، ولكل منها تقييمها الخاص.
هذه الواجهة لا تخترع تقييمًا للادعاء عندما لا يكون دفتر الأستاذ يحتوي على واحد.
المنهجيات ذات الصلة
تم إنشاؤها من الرسم البياني للمنهج وتظهر كعلاقات مقترحة آليًا - لا يُستدل على أي ادعاء دليل.