Machine learningDeep learning / NLP / CV
도메인 적응 트랜스포머
도메인 적응 트랜스포머(Domain-Adaptive Transformer, DAT)는 BERT나 ViT와 같은 트랜스포머 기반 모델에 명시적인 도메인 정렬 목적 함수를 추가하여, 레이블이 지정된 소스 도메인에서 학습된 표현이 다른, 종종 레이블이 없는 타겟 도메인으로 잘 전이되도록 확장한 모델입니다. 이 접근법은 트랜스포머의 강력한 표현 학습 능력과 적대적 학습(adversarial training) 또는 대조적 정렬(contrastive alignment)과 같은 도메인 적응 기법을 결합하여 도메인 편이(domain shift)를 최소화합니다.
방법 전문 읽기
회원 전용
로그인무료 계정으로 로그인하면 이 섹션을 읽을 수 있습니다.
방법 지도
관련 방법들로 이루어진 인접 영역 — 노드를 선택해 살펴보세요.
출처
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
이 페이지 인용 방법
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/ko/deep-learning/domain-adaptive-transformer
어떤 방법일까요?
이 방법을 가장 가까운 동류의 방법들과 나란히 놓고 비교해 보세요 — 라이브러리는 책을 펼쳐 놓을 뿐, 선택은 여러분의 몫입니다.
나란히 비교하기 →