หน่วยประสาทซ้ำแบบเกทที่เรียนรู้ด้วยตนเอง (Self-supervised GRU)
Self-supervised GRU คือการฝึกโครงข่าย Gated Recurrent Unit (GRU) โดยใช้สัญญาณกำกับดูแลที่สร้างขึ้นโดยอัตโนมัติ เช่น การทำนายขั้นตอนถัดไป หรือการกู้คืนโทเค็นที่ถูกปิดบัง ซึ่งได้มาจากข้อมูลที่ไม่มีป้ายกำกับเอง จากนั้นการแทนลำดับที่เรียนรู้จะถูกปรับละเอียด (fine-tuned) บนชุดข้อมูลที่มีป้ายกำกับขนาดเล็ก ทำให้การสร้างแบบจำลองลำดับคุณภาพสูงเป็นไปได้เมื่อมีคำอธิบายประกอบ (annotations) ที่ขาดแคลน
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation. In Proceedings of EMNLP 2014. link ↗
- Liu, X., Zhang, F., Hou, Z., Mian, L., Wang, Z., Zhang, J., & Tang, J. (2023). Self-Supervised Learning: Generative or Contrastive. IEEE Transactions on Knowledge and Data Engineering, 35(1), 857–876. DOI: 10.1109/TKDE.2021.3090866 ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Self-supervised Gated Recurrent Unit. ScholarGate. https://scholargate.app/th/deep-learning/self-supervised-gru
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- หน่วยความจำแบบวนซ้ำแบบมีประตู (Gated Recurrent Unit - GRU)การเรียนรู้เชิงลึก↔ compare
- หน่วยความจำระยะสั้นแบบยาว (LSTM)การเรียนรู้เชิงลึก↔ compare
- Self-supervised Transformerการเรียนรู้เชิงลึก↔ compare
- เซมิซูเปอร์ไวส์ GRUการเรียนรู้เชิงลึก↔ compare