Self-supervised Vision Transformer (SSL-ViT)
Vision Transformer sadala attēlu rūtiņu režģī un izmanto uzmanību, lai uztvertu sakarības visā attēlā. Pašuzraudzības pieeja noņem vai izkropļo dažas rūtiņas un liek modelim tās rekonstruēt vai saskaņot bez cilvēka sniegtām etiķetēm. Risinot šīs iekšējās mīklas lielā mērogā, modelis attīsta bagātīgas, vispārējas nozīmes vizuālās iezīmes — līdzīgi kā BERT apguva valodu, prognozējot maskētus vārdus. Rezultāts ir attēlojums, kas spēcīgi pārnesas uz klasifikāciju, noteikšanu un segmentāciju ar daudz mazāku skaitu apzīmētu piemēru nekā apmācība no nulles.
Lasīt pilno metodes aprakstu
Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.
Method map
The neighbourhood of related methods — select a node to explore.
Avoti
- Caron, M., Touvron, H., Misra, I., Jegou, H., Mairal, J., Bojanowski, P., & Joulin, A. (2021). Emerging Properties in Self-Supervised Vision Transformers. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 9650–9660. link ↗
- He, K., Chen, X., Xie, S., Li, Y., Dollar, P., & Girshick, R. (2022). Masked Autoencoders Are Scalable Vision Learners. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 16000–16009. link ↗
Kā citēt šo lapu
ScholarGate. (2026, June 3). Self-supervised Vision Transformer (SSL-ViT). ScholarGate. https://scholargate.app/lv/deep-learning/self-supervised-vision-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Pielāgotais Vision TransformerDziļā mācīšanās↔ compare
- Daudzmodālais vīzijas transformatorsDziļā mācīšanās↔ compare
- Pašuzraudzīta konvolūciju neironu tīklsDziļā mācīšanās↔ compare
- Vision TransformerDziļā mācīšanās↔ compare
Uz to atsaucas
Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →