โดเมน-อะแดปทีฟ ทรานส์ฟอร์มเมอร์
โดเมน-อะแดปทีฟ ทรานส์ฟอร์มเมอร์ (Domain-Adaptive Transformer - DAT) คือโมเดลที่พัฒนาต่อยอดจากสถาปัตยกรรมทรานส์ฟอร์มเมอร์ เช่น BERT หรือ ViT โดยมีการเพิ่มเป้าหมายการจัดตำแหน่งโดเมน (domain-alignment objective) อย่างชัดเจน เพื่อให้การเรียนรู้การแทน (learned representations) สามารถถ่ายทอดจากโดเมนต้นทางที่มีป้ายกำกับ (labeled source domain) ไปยังโดเมนเป้าหมายที่แตกต่างกัน ซึ่งมักจะไม่มีป้ายกำกับ (unlabeled target domain) ได้เป็นอย่างดี แนวทางนี้เป็นการผสมผสานความสามารถในการแทนข้อมูลอันทรงพลังของทรานส์ฟอร์มเมอร์เข้ากับเทคนิคการปรับตัวตามโดเมน (domain adaptation techniques) เช่น การฝึกแบบปฏิปักษ์ (adversarial training) หรือการจัดตำแหน่งแบบเปรียบต่าง (contrastive alignment) เพื่อลดความคลาดเคลื่อนของโดเมน (domain shift)
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Ni, J., Hernandez Abrego, G., Constant, N., Ma, J., Hall, K., Cer, D., & Yang, Y. (2021). Sentence-T5: Scalable Sentence Encoders from Pre-trained Text-to-Text Models. Findings of ACL 2022. arXiv:2108.08877. link ↗
- Guo, J., Shah, D., & Barzilay, R. (2022). Multi-Source Domain Adaptation with Mixture of Experts. In Proceedings of EMNLP 2018. arXiv:1809.02060. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Domain-Adaptive Transformer (DAT). ScholarGate. https://scholargate.app/th/deep-learning/domain-adaptive-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- การเรียนรู้แบบถ่ายโอนการเรียนรู้ของเครื่อง↔ compare
- วิชันทรานส์ฟอร์มเมอร์การเรียนรู้เชิงลึก↔ compare