Kontrastivní učení pro NLP — učení reprezentací textu pomocí kontrastu
Kontrastivní učení pro NLP je technika učení reprezentací — popularizovaná metodami SimCSE (Gao et al., 2021) a Supervised Contrastive Learning (Khosla et al., 2020) — která trénuje textový enkodér tím, že přitahuje vnoření (embeddingy) podobných párů textů k sobě a zároveň odpuzuje vnoření nepodobných párů od sebe. Výsledkem je hustý, vysoce kvalitní prostor vnoření, který lze naučit bez jakýchkoli popisků (labels) nebo s minimální supervizí, což jej činí obzvláště cenným, když jsou anotovaná data vzácná.
Přečíst celou metodu
Pro přečtení této sekce se přihlaste s bezplatným účtem.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
Jak citovat tuto stránku
ScholarGate. (2026, June 1). Contrastive Learning for Natural Language Processing. ScholarGate. https://scholargate.app/cs/text-mining/contrastive-learning-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT EmbeddingsDolování textu↔ compare
- Samoučící se učeníStrojové učení↔ compare
- Sémantická podobnostDolování textu↔ compare
- Klasifikace textuDolování textu↔ compare
Našli jste na této stránce chybu? Nahlaste ji nebo navrhněte opravu →