Dostrojony Transformer
Dostrajanie Transformera adaptuje duży, wstępnie wytrenowany model — taki jak BERT, GPT lub ViT — do konkretnego zadania pochodnego poprzez kontynuację treningu opartego na gradientach na oznakowanym zbiorze danych docelowych. Ten dwuetapowy paradygmat (wstępne trenowanie, a następnie dostrajanie) konsekwentnie osiąga najnowocześniejsze wyniki w zadaniach przetwarzania języka naturalnego i widzenia komputerowego przy znacznie mniejszej ilości danych specyficznych dla zadania niż trenowanie od zera.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
Źródła
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Fine-Tuned Transformer (Task-Specific Adaptation of Pre-Trained Transformer Models). ScholarGate. https://scholargate.app/pl/deep-learning/fine-tuned-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Klasyfikacja oparta na BERTUczenie głębokie↔ compare
- Klasyfikacja oparta na dostrojonym modelu BERTUczenie głębokie↔ compare
- Dostrojona rekurencyjna sieć neuronowaUczenie głębokie↔ compare
- Klasyfikacja oparta na RoBERTaUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →