ScholarGate
सहायक
Machine learning

बहु-शीर्षक स्व-ध्यान (Multi-Head Self-Attention)

बहु-शीर्षक स्व-ध्यान, जिसे 2017 में वासवानी और सहयोगियों द्वारा प्रस्तुत किया गया था, वह तंत्र है जो अनुक्रम में प्रत्येक स्थिति को समानांतर में अन्य सभी स्थितियों के साथ अपने संबंध की गणना करने की अनुमति देता है। यह ट्रांसफार्मर आर्किटेक्चर का मूल है और BERT, GPT, और T5 के नीचे की नींव है।

MethodMind में खोलेंजल्द हीवीडियोजल्द हीDownload slides

पूरी विधि पढ़ें

केवल सदस्यों के लिए

यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।

साइन इन करें

Method map

The neighbourhood of related methods — select a node to explore.

बहु-शीर्षक स्व-ध्यान (Multi-Head Self-Attention)
BERT फाइन-ट्यूनिंगजीपीटी फाइन-ट्यूनिंगलोरा और पीईएफटीरैंडम फ़ॉरेस्टXGBoostअटेंशन मैकेनिज्म (Attent…द्विदिश आरएनएन (Bidirect…पुनर्प्राप्ति-संवर्धित ज…अनुक्रम-से-अनुक्रम मॉडल

स्रोत

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
  2. Devlin, J. et al. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL. link ↗

इस पृष्ठ का उद्धरण कैसे दें

ScholarGate. (2026, June 1). Multi-Head Self-Attention (Transformer Core). ScholarGate. https://scholargate.app/hi/deep-learning/self-attention-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

इनमें संदर्भित

अटेंशन मैकेनिज्म (Attention Mechanism)द्विदिश आरएनएन (Bidirectional RNN)पुनर्प्राप्ति-संवर्धित जनन (RAG)अनुक्रम-से-अनुक्रम मॉडल

इस पृष्ठ पर कोई त्रुटि दिखी? सूचित करें या सुधार सुझाएँ →

ScholarGate — Self-Attention (Multi-Head Self-Attention (Transformer Core)). 2026-06-15 को यहाँ से प्राप्त https://scholargate.app/hi/deep-learning/self-attention-transformer · डेटासेट: https://doi.org/10.5281/zenodo.20539026