Samonadzorowany GRU
Samonadzorowany GRU trenuje sieć Gated Recurrent Unit (GRU) przy użyciu automatycznie konstruowanych sygnałów nadzoru — takich jak przewidywanie następnego kroku lub odzyskiwanie zamaskowanych tokenów — pochodzących z samych nieoznakowanych danych. Nauczone reprezentacje sekwencji są następnie dostrajane na małych zbiorach danych oznakowanych, co umożliwia wysokiej jakości modelowanie sekwencyjne, gdy adnotacje są rzadkie.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
Źródła
- Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation. In Proceedings of EMNLP 2014. link ↗
- Liu, X., Zhang, F., Hou, Z., Mian, L., Wang, Z., Zhang, J., & Tang, J. (2023). Self-Supervised Learning: Generative or Contrastive. IEEE Transactions on Knowledge and Data Engineering, 35(1), 857–876. DOI: 10.1109/TKDE.2021.3090866 ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Self-supervised Gated Recurrent Unit. ScholarGate. https://scholargate.app/pl/deep-learning/self-supervised-gru
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Gated Recurrent Unit (GRU)Uczenie głębokie↔ compare
- Długa pamięć krótkotrwała (LSTM)Uczenie głębokie↔ compare
- Samo-nadzorowany TransformerUczenie głębokie↔ compare
- Półnadzorowany GRUUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →