Προσαρμοστικός Μετασχηματιστής Τομέα

Ένας Προσαρμοστικός Μετασχηματιστής Τομέα (Domain-Adaptive Transformer - DAT) είναι ένα μοντέλο βασισμένο στον Μετασχηματιστή (Transformer) — όπως το BERT ή το ViT — το οποίο επεκτείνεται με έναν ρητό στόχο ευθυγράμμισης τομέα, ώστε οι μαθημένες αναπαραστάσεις να μεταφέρονται καλά από έναν επισημασμένο πηγαίο τομέα σε έναν διαφορετικό, συχνά μη επισημασμένο, επόμενο τομέα. Η προσέγγιση συνδυάζει την ισχυρή ικανότητα αναπαράστασης των Μετασχηματιστών με τεχνικές προσαρμογής τομέα, όπως η ανταγωνιστική εκπαίδευση (adversarial training) ή η αντίθεση ευθυγράμμισης (contrastive alignment), για την ελαχιστοποίηση της μετατόπισης τομέα.