Transformer (NLP)
Transformer ialah model pembelajaran mendalam berasaskan perhatian (attention-based) yang diperkenalkan oleh Vaswani dan rakan-rakan pada tahun 2017, yang melakukan pengelasan teks, pengecaman entiti bernama, dan pemodelan bahasa dengan membenarkan setiap token dalam jujukan untuk memberi perhatian secara langsung kepada setiap token lain. Ia menggantikan reka bentuk berulang sebelumnya dengan mekanisme perhatian kendiri (self-attention) yang memproses keseluruhan jujukan secara selari.
Baca kaedah sepenuhnya
Log masuk dengan akaun percuma untuk membaca bahagian ini.
Method map
The neighbourhood of related methods — select a node to explore.
Sumber
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Cara memetik halaman ini
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/ms/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoenkoderPembelajaran Mendalam↔ compare
- Regresi LogistikStatistik Penyelidikan↔ compare
- Random ForestPembelajaran Mesin↔ compare
- XGBoostPembelajaran Mesin↔ compare
Dirujuk oleh
Terjumpa masalah pada halaman ini? Laporkan atau cadangkan pembetulan →