Multi-Head Self-Attention
A többfejes öngondoskodás (Multi-Head Self-Attention), amelyet Vaswani és munkatársai vezettek be 2017-ben, az a mechanizmus, amely lehetővé teszi, hogy egy sorozat minden pozíciója párhuzamosan számítsa ki a kapcsolatát az összes többi pozícióval. Ez a Transformer architektúra magja és a BERT, a GPT és a T5 alapja.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 1). Multi-Head Self-Attention (Transformer Core). ScholarGate. https://scholargate.app/hu/deep-learning/self-attention-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT finomhangolásMélytanulás↔ compare
- GPT finomhangolásMélytanulás↔ compare
- LoRA és PEFTMélytanulás↔ compare
- Véletlen erdőGépi tanulás↔ compare
- XGBoostGépi tanulás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →