GRU Semi-terawasi

GRU Semi-terawasi menerapkan arsitektur Gated Recurrent Unit pada pengaturan di mana hanya sebagian kecil dari data sekuensial yang diberi label. Dengan terlebih dahulu melakukan pra-pelatihan atau pelatihan bersama pada urutan tak berlabel yang melimpah — melalui pemodelan bahasa, pengkodean otomatis, atau regularisasi konsistensi — dan kemudian melakukan penyempurnaan pada contoh berlabel, model memanfaatkan seluruh korpus untuk mempelajari representasi urutan yang lebih kaya daripada yang diizinkan oleh pelatihan yang hanya diawasi.