Ημι-επιβλεπόμενο GRU

Το ημι-επιβλεπόμενο GRU εφαρμόζει την αρχιτεκτονική Gated Recurrent Unit σε σενάρια όπου μόνο ένα μικρό κλάσμα των διαδοχικών δεδομένων είναι επισημασμένο. Μέσω προ-εκπαίδευσης ή ταυτόχρονης εκπαίδευσης σε άφθονες μη επισημασμένες ακολουθίες — μέσω μοντελοποίησης γλώσσας, αυτοκωδικοποίησης ή κανονικοποίησης συνέπειας — και στη συνέχεια λεπτομερούς ρύθμισης σε επισημασμένα παραδείγματα, το μοντέλο εκμεταλλεύεται ολόκληρο το σώμα κειμένων για να μάθει πλουσιότερες αναπαραστάσεις ακολουθιών από ό,τι θα επέτρεπε η αποκλειστικά επιβλεπόμενη εκπαίδευση.