Machine learningDeep learning / NLP / CV

Доменно-адаптивный Трансформер

Доменно-адаптивный Трансформер (DAT) — это модель на основе Трансформера, такая как BERT или ViT, дополненная явной целью выравнивания доменов, чтобы изученные представления хорошо переносились из помеченной исходной доменной области в другую, часто непомеченную, целевую область. Этот подход сочетает мощную способность Трансформеров к представлению данных с методами адаптации доменов, такими как состязательное обучение или контрастное выравнивание, для минимизации сдвига доменов.

Открыть в MethodMindСкороВидеоСкороDownload slides

Читать метод полностью

Только для участников

Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.

Войти

Method map

The neighbourhood of related methods — select a node to explore.

Источники

  1. Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link
  2. Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link

Как цитировать эту страницу

ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/ru/deep-learning/domain-adaptive-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Упоминается в

ScholarGateDomain-adaptive transformer (Domain-Adaptive Transformer (DAT)). Получено 2026-06-15 из https://scholargate.app/ru/deep-learning/domain-adaptive-transformer · Набор данных: https://doi.org/10.5281/zenodo.20539026