Zwakke gesuperviseerde zinsinbeddingen
Het handmatig annoteren van duizenden zinnen is duur, maar domeinkennis bestaat vaak als eenvoudige regels: een zin met 'adverse event' beschrijft waarschijnlijk een klinische complicatie; een recensie met veel uitroeptekens is waarschijnlijk positief. Zwakke supervisie zet deze intuïties om in probabilistische trainingssignalen. De encoder — doorgaans een vooraf getrainde transformer — wordt vervolgens gefinetuned op deze ruisige labels, waarbij hij leert semantisch gerelateerde zinnen dicht bij elkaar in vectorruimte te plaatsen, zelfs zonder schone gouden labels. Het resultaat is een representatie die nuttig is voor classificatie-, retrieval- en clusteringtaken waarvoor volledige annotatiebudgetten niet beschikbaar zijn.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
Bronnen
- Ratner, A., De Sa, C., Wu, S., Selsam, D., & Re, C. (2016). Data Programming: Creating Large Training Sets, Quickly. Advances in Neural Information Processing Systems (NeurIPS), 29. link ↗
- Reimers, N., & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing (EMNLP). DOI: 10.18653/v1/D19-1410 ↗
Deze pagina citeren
ScholarGate. (2026, June 3). Weakly Supervised Sentence Embeddings. ScholarGate. https://scholargate.app/nl/deep-learning/weakly-supervised-sentence-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-gebaseerde ClassificatieDeep learning↔ compare
- Zelf-gesuperviseerde zinsinbeddingenDeep learning↔ compare
- Semi-supervised Sentence EmbeddingsDeep learning↔ compare
- Sentence EmbeddingsDeep learning↔ compare
- Transfer Learning met ZinsinbeddingenDeep learning↔ compare
- Zwak gesuperviseerde BERT-gebaseerde classificatieDeep learning↔ compare
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →