Self-supervised Vision Transformer
Self-supervised Vision Transformer (SSL-ViT) ประยุกต์ใช้การฝึกอบรมล่วงหน้าแบบ Self-supervised ซึ่งมีวัตถุประสงค์ เช่น การทำนายแพตช์ที่ถูกปิดบัง (masked patch prediction - MAE) หรือการกลั่นความรู้ด้วยตนเองโดยไม่มีป้ายกำกับ (self-distillation with no labels - DINO) เข้ากับสถาปัตยกรรม Vision Transformer ทำให้สามารถเรียนรู้การนำเสนอภาพที่มีประสิทธิภาพจากคลังภาพขนาดใหญ่ที่ไม่มีป้ายกำกับ ก่อนที่จะมีการปรับแต่งเฉพาะงานใดๆ
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Caron, M., Touvron, H., Misra, I., Jegou, H., Mairal, J., Bojanowski, P., & Joulin, A. (2021). Emerging Properties in Self-Supervised Vision Transformers. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 9650–9660. link ↗
- He, K., Chen, X., Xie, S., Li, Y., Dollar, P., & Girshick, R. (2022). Masked Autoencoders Are Scalable Vision Learners. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 16000–16009. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Self-supervised Vision Transformer (SSL-ViT). ScholarGate. https://scholargate.app/th/deep-learning/self-supervised-vision-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- วิชันทรานส์ฟอร์มเมอร์ที่ปรับละเอียดการเรียนรู้เชิงลึก↔ compare
- ทรานส์ฟอร์มเมอร์วิสัยทัศน์หลายรูปแบบการเรียนรู้เชิงลึก↔ compare
- โครงข่ายประสาทเทียมคอนโวลูชันแบบเรียนรู้ด้วยตนเองการเรียนรู้เชิงลึก↔ compare
- วิชันทรานส์ฟอร์มเมอร์การเรียนรู้เชิงลึก↔ compare