Machine learningDeep learning / NLP / CV
ドメイン適応型Transformer
ドメイン適応型Transformer(DAT)は、BERTやViTのようなTransformerベースのモデルに、明示的なドメイン整合目的関数を追加したもので、学習された表現がラベル付きソースドメインから異なる、しばしばラベルなしのターゲットドメインへうまく転移するように設計されています。このアプローチは、Transformerの強力な表現能力と、敵対的学習や対照的整合のようなドメイン適応技術を組み合わせて、ドメインシフトを最小限に抑えます。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
このページの引用方法
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/ja/deep-learning/domain-adaptive-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →