Clasificación basada en RoBERTa
La clasificación basada en RoBERTa aplica el transformador pre-entrenado RoBERTa —entrenado de forma más robusta que BERT con enmascaramiento dinámico y lotes más grandes— a tareas de categorización de texto, añadiendo una cabeza de clasificación ligera sobre la representación del token [CLS] y ajustando el modelo completo con ejemplos etiquetados. Consistentemente iguala o supera a BERT en puntos de referencia estándar de PLN.
Leer el método completo
Inicia sesión con una cuenta gratuita para leer esta sección.
Method map
The neighbourhood of related methods — select a node to explore.
+24 more
Fuentes
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Cómo citar esta página
ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/es/deep-learning/roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Clasificación basada en BERTAprendizaje profundo↔ compare
- Clasificación basada en RoBERTa con ajuste finoAprendizaje profundo↔ compare
- Unidad Recurrente con Compuertas (GRU)Aprendizaje profundo↔ compare
- Memoria a Largo Plazo (LSTM)Aprendizaje profundo↔ compare
- Incrutaciones de oracionesAprendizaje profundo↔ compare
Citado por
¿Has visto un problema en esta página? Infórmanos o sugiere una corrección →