Адаптивный к домену Vision Transformer

Адаптивный к домену Vision Transformer (DA-ViT) применяет методы адаптации домена — такие как сопоставление с помощью состязательности (adversarial alignment), самообучение (self-training) или выравнивание на уровне внимания (attention-level bridging) — поверх предварительно обученной основы Vision Transformer для переноса визуальных знаний из размеченного исходного домена в неразмеченный или слабо размеченный целевой домен, уменьшая сдвиг распределения, который ограничивает стандартную дообучение (fine-tuning) ViT.