เปรียบเทียบวิธี

	การจำแนกประเภทแบบหลายรูปแบบโดยใช้ BERT	วิชันทรานส์ฟอร์มเมอร์
สาขาวิชา	การเรียนรู้เชิงลึก	การเรียนรู้เชิงลึก
ตระกูล	Machine learning	Machine learning
ปีกำเนิด	2019	2021
ผู้ริเริ่ม	Kiela, D. et al.; Lu, J. et al.	Dosovitskiy, A. et al.
ประเภท	Multimodal transformer classifier	Transformer architecture for images (self-attention over patches)
แหล่งต้นตำรับ	Kiela, D., Bhooshan, S., Firooz, H., Perez, E., & Testuggine, D. (2019). Supervised multimodal bitransformers for classifying images and text. arXiv preprint arXiv:1909.02950.	Dosovitskiy, A. et al. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. ICLR.
ชื่อเรียกอื่น	MMBT, multimodal transformer classification, BERT multimodal fusion, vision-language BERT classifier	Görsel Transformer (ViT), görsel transformer, ViT, patch transformer for images
ที่เกี่ยวข้อง	2	5
สรุป	Multimodal BERT-based classification extends the BERT transformer architecture to jointly encode and classify data from multiple modalities — most commonly text paired with images — by fusing their representations before a final classification head. Introduced prominently around 2019 through models such as MMBT and ViLBERT, it has become a standard approach for tasks where neither text nor image alone carries sufficient information for accurate labeling.	The Vision Transformer (ViT), introduced by Dosovitskiy and colleagues in 2021, splits an image into fixed-size patches, treats those patches as a sequence, and applies the Transformer self-attention mechanism to image classification. Given enough training data, it surpasses convolutional neural networks (CNNs).