Vision Transformer gjysmë-i mbikëqyrur

Vision Transformer gjysmë-i mbikëqyrur (Semi-supervised Vision Transformer) aplikon arkitekturën e vëmendjes vetjake (self-attention) të bazuar në copëza (patch-based) të ViT në skenarë ku vetëm një pjesë e vogël e imazheve janë të etiketuar, duke shfrytëzuar korpuse të mëdha të pashënuara përmes etiketimit të rremë (pseudo-labeling), rregullimit të konsistencës (consistency regularization), ose detyrave paraprake vetë-mbikëqyrëse (self-supervised pretext tasks) para përsosjes (fine-tuning) në grupin e vogël të etiketuar. Ky qasje arrin afërsisht saktësinë e mbikëqyrur edhe kur imazhet e etiketuar janë të pakta.