Tartományadaptív transzformer
A tartományadaptív transzformer (DAT) egy transzformer-alapú modell — mint például a BERT vagy a ViT — kiegészítve egy explicit tartományillesztési céllal, hogy a tanult reprezentációk jól átvihetők legyenek egy címkézett forrástartományból egy eltérő, gyakran címkézetlen céltartományba. A megközelítés ötvözi a transzformerek erőteljes reprezentációs kapacitását a tartományadaptációs technikákkal, mint például az ellentétes tréning (adversarial training) vagy a kontrasztív illesztés (contrastive alignment) a tartományeltolódás minimalizálása érdekében.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Módszertérkép
A rokon módszerek környezete — válasszon ki egy csomópontot a felfedezéshez.
Források
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/hu/deep-learning/domain-adaptive-transformer
Melyik módszer?
Állítsa e módszert a hozzá legközelebb álló rokonai mellé, és olvassa őket egymás mellett — a könyvtár az asztalra teszi a könyveket; a választás az Öné.
- Transzfer tanulásGépi tanulás↔ összehasonlítás
- Vision TransformerMélytanulás↔ összehasonlítás
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →