Дообученный Vision Transformer

Дообученный Vision Transformer (Fine-Tuned Vision Transformer) адаптирует большую предварительно обученную модель ViT — которая разбивает изображения на патчи фиксированного размера и обрабатывает их с помощью слоев самовнимания — для новой задачи классификации или распознавания изображений, используя относительно небольшой размеченный набор данных. Он достигает передовой точности в компьютерном зрении, используя богатые представления, полученные во время крупномасштабного предварительного обучения.