Machine learningDeep learning / NLP / CV

Самообучающийся Vision Transformer

Самообучающийся Vision Transformer (SSL-ViT) применяет задачи самообучающего предварительного обучения — такие как предсказание маскированных патчей (MAE) или самодистилляция без меток (DINO) — к архитектуре Vision Transformer, что позволяет изучать мощные визуальные представления из больших неразмеченных корпусов изображений до любой тонкой настройки под конкретную задачу.

Открыть в MethodMindСкороВидеоСкороDownload slides

Читать метод полностью

Только для участников

Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.

Войти

Method map

The neighbourhood of related methods — select a node to explore.

Источники

  1. Caron, M., Touvron, H., Misra, I., Jegou, H., Mairal, J., Bojanowski, P., & Joulin, A. (2021). Emerging Properties in Self-Supervised Vision Transformers. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 9650–9660. link
  2. He, K., Chen, X., Xie, S., Li, Y., Dollar, P., & Girshick, R. (2022). Masked Autoencoders Are Scalable Vision Learners. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 16000–16009. link

Как цитировать эту страницу

ScholarGate. (2026, June 3). Self-supervised Vision Transformer (SSL-ViT). ScholarGate. https://scholargate.app/ru/deep-learning/self-supervised-vision-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Упоминается в

ScholarGateSelf-supervised Vision Transformer (Self-supervised Vision Transformer (SSL-ViT)). Получено 2026-06-15 из https://scholargate.app/ru/deep-learning/self-supervised-vision-transformer · Набор данных: https://doi.org/10.5281/zenodo.20539026