Трансформер с адаптация към домейн
Трансформер с адаптация към домейн (DAT) е модел, базиран на Трансформер — като BERT или ViT — разширен с изрична цел за подравняване на домейните, така че научените представяния да се прехвърлят добре от маркиран изходен домейн към различен, често немаркиран, целеви домейн. Подходът комбинира мощния капацитет за представяне на Трансформерите с техники за адаптация към домейн като състезателно обучение или контрастивно подравняване, за да се сведе до минимум разминаването между домейните.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Източници
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
Как да цитирате тази страница
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/bg/deep-learning/domain-adaptive-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Трансферно обучениеМашинно обучение↔ compare
- Vision TransformerДълбоко обучение↔ compare
Цитиран в
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →