Multimodal Transformer
Multimodal Transformer เป็นสถาปัตยกรรม Transformer มาตรฐานที่ได้รับการพัฒนาเพิ่มเติมเพื่อประมวลผลและให้เหตุผลร่วมกันระหว่างข้อมูลอินพุตตั้งแต่สองรูปแบบขึ้นไป โดยทั่วไปคือข้อความและรูปภาพ แต่ก็รวมถึงเสียง วิดีโอ หรือข้อมูลที่มีโครงสร้างด้วย ชั้น Attention แบบข้ามรูปแบบ (Cross-modal attention layers) ช่วยให้ข้อมูลจากรูปแบบหนึ่งสามารถส่งผลต่อการแทนค่า (representations) ในอีกรูปแบบหนึ่งได้ ทำให้สามารถทำงานต่างๆ เช่น การตอบคำถามเกี่ยวกับรูปภาพ (visual question answering), การสร้างคำบรรยายภาพ (image captioning) และการวิเคราะห์ความรู้สึกแบบหลายรูปแบบ (multimodal sentiment analysis)
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
แหล่งอ้างอิง
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/th/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- การจำแนกประเภทโดยใช้ BERTการเรียนรู้เชิงลึก↔ compare
- การจำแนกประเภทรูปภาพการเรียนรู้เชิงลึก↔ compare
- การจำแนกประเภทแบบหลายรูปแบบโดยใช้ BERTการเรียนรู้เชิงลึก↔ compare
- Sentence Embeddingsการเรียนรู้เชิงลึก↔ compare
- วิชันทรานส์ฟอร์มเมอร์การเรียนรู้เชิงลึก↔ compare