Transformer (NLP)
Transformer là một mô hình học sâu dựa trên cơ chế chú ý (attention), được Vaswani và cộng sự giới thiệu năm 2017, thực hiện phân loại văn bản, nhận dạng thực thể có tên và mô hình hóa ngôn ngữ bằng cách cho phép mọi token trong một chuỗi chú ý trực tiếp đến mọi token khác. Nó thay thế các thiết kế hồi quy (recurrent) trước đó bằng một cơ chế tự chú ý (self-attention) xử lý toàn bộ chuỗi một cách song song.
Đọc toàn bộ phương pháp
Đăng nhập bằng tài khoản miễn phí để đọc phần này.
Method map
The neighbourhood of related methods — select a node to explore.
Nguồn tài liệu
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Cách trích dẫn trang này
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/vi/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Bộ tự mã hóaHọc sâu↔ compare
- Hồi quy LogisticThống kê nghiên cứu↔ compare
- Rừng ngẫu nhiênHọc máy↔ compare
- XGBoostHọc máy↔ compare
Được tham chiếu bởi
Phát hiện lỗi trên trang này? Báo cáo hoặc đề xuất chỉnh sửa →