Transformator adaptacyjny do dziedziny
Transformator adaptacyjny do dziedziny (DAT) to model oparty na architekturze Transformer — taki jak BERT czy ViT — rozszerzony o jawny cel wyrównania dziedzinowego, tak aby nauczone reprezentacje dobrze przenosiły się z oznakowanej dziedziny źródłowej do innej, często nieoznakowanej, dziedziny docelowej. Podejście to łączy potężną zdolność reprezentacji Transformerów z technikami adaptacji dziedzinowej, takimi jak trening kontradyktoryjny lub wyrównanie kontrastowe, w celu minimalizacji przesunięcia dziedzinowego.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
Źródła
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/pl/deep-learning/domain-adaptive-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Uczenie transferoweUczenie maszynowe↔ compare
- Vision TransformerUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →