Transformador de Adaptación de Dominio

Un Transformador de Adaptación de Dominio (DAT) es un modelo basado en Transformer —como BERT o ViT— extendido con un objetivo explícito de alineación de dominio para que las representaciones aprendidas se transfieran bien de un dominio fuente etiquetado a un dominio objetivo diferente, a menudo sin etiquetar. El enfoque combina la potente capacidad de representación de los Transformers con técnicas de adaptación de dominio como el entrenamiento adversario o la alineación contrastiva para minimizar el cambio de dominio.