Machine learningDeep learning / NLP / CV
Semi-supervised Vision Transformer
Semi-supervised Vision Transformer는 ViT의 패치 기반 자기 주의(self-attention) 아키텍처를 이미지의 일부만 레이블링된 설정에 적용하여, 의사 레이블링(pseudo-labeling), 일관성 정규화(consistency regularization), 또는 자기 지도 학습(self-supervised pretext tasks)을 통해 대규모 레이블 없는 코퍼스를 활용한 후 소규모 레이블링된 데이터셋으로 미세 조정(fine-tuning)하는 방식입니다. 이 접근법은 레이블링된 이미지가 부족할 때에도 지도 학습에 가까운 정확도를 달성합니다.
방법 전문 읽기
회원 전용
로그인무료 계정으로 로그인하면 이 섹션을 읽을 수 있습니다.
Method map
The neighbourhood of related methods — select a node to explore.
출처
- Dosovitskiy, A., Beyer, L., Kolesnikov, A., Weissenborn, D., Zhai, X., Unterthiner, T., Dehghani, M., Minderer, M., Heigold, G., Gelly, S., Uszkoreit, J., & Houlsby, N. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. International Conference on Learning Representations (ICLR 2021). link ↗
- Zhai, X., Kolesnikov, A., Houlsby, N., & Beyer, L. (2022). Scaling Vision Transformers. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 12104–12113. link ↗
이 페이지 인용 방법
ScholarGate. (2026, June 3). Semi-supervised Vision Transformer (Semi-supervised ViT). ScholarGate. https://scholargate.app/ko/deep-learning/semi-supervised-vision-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- 미세 조정된 비전 트랜스포머딥러닝↔ compare
- 이미지 분류딥러닝↔ compare
- Self-supervised Vision Transformer딥러닝↔ compare
- BERT 기반 준지도 학습 분류딥러닝↔ compare
- 준지도학습 합성곱 신경망딥러닝↔ compare
- Vision Transformer딥러닝↔ compare