למידת ייצוגים ב-NLP באמצעות למידה השוואתית — למידת ייצוגי טקסט באמצעות השוואה

למידה השוואתית עבור NLP היא טכניקת למידת ייצוגים — שזכתה לפופולריות בזכות SimCSE (Gao et al., 2021) ו-Supervised Contrastive Learning (Khosla et al., 2020) — המאמנת מקודד טקסט על ידי קירוב הטמעות (embeddings) של זוגות טקסט דומים זה לזה, תוך הרחקת הטמעות של זוגות שאינם דומים. התוצאה היא מרחב הטמעות צפוף ואיכותי, שניתן ללמוד ללא כל תיוג, או עם פיקוח מינימלי, מה שהופך אותו לבעל ערך רב במיוחד כאשר נתונים מתויגים נדירים.