Machine learningDeep learning / NLP / CV

Classification basée sur RoBERTa

La Classification basée sur RoBERTa applique le transformeur pré-entraîné RoBERTa — entraîné de manière plus robuste que BERT avec masquage dynamique et lots plus importants — aux tâches de catégorisation de texte en ajoutant une tête de classification légère au-dessus de la représentation du jeton [CLS] et en affinant l'ensemble du modèle sur des exemples étiquetés. Elle égale ou surpasse constamment BERT sur les benchmarks NLP standards.

Ouvrir dans MethodMindBientôtVidéoBientôtDownload slides

Lire la méthode complète

Réservé aux membres

Connectez-vous avec un compte gratuit pour lire cette section.

Se connecter

Method map

The neighbourhood of related methods — select a node to explore.

Classification basée sur RoBERTa

Classification basée sur…Classification basée sur…Unité récurrente "gated"…Long Short-Term Memory (…Plongements de phrases Classification basée sur…Question-réponse adaptat…Classification RoBERTa a…Embeddings de phrases ad…Analyse de sentiments ad…

+24 more

Sources

Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗

Comment citer cette page

ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/fr/deep-learning/roberta-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Classification basée sur BERTApprentissage profond↔ compare
Classification basée sur RoBERTa affinéApprentissage profond↔ compare
Unité récurrente "gated" (GRU)Apprentissage profond↔ compare
Long Short-Term Memory (LSTM)Apprentissage profond↔ compare
Plongements de phrasesApprentissage profond↔ compare

Compare side by side →

Référencée par

Classification basée sur BERT Classification basée sur BERT et adaptée au domaine Question-réponse adaptative au domaine Classification RoBERTa adaptative au domaine Embeddings de phrases adaptatifs au domaine Analyse de sentiments adaptative au domaine Classification basée sur BERT explicable Réponse aux questions explicable Classification RoBERTa explicable Analyse de sentiment explicable Classification par BERT affiné Reconnaissance d'entités nommées par ajustement fin Question-Réponse affinée Classification basée sur RoBERTa affiné Plongements de phrases affinés Résumé de texte affiné Transformer affiné Interrogation en langue multiple Classification basée sur RoBERTa multilingue Analyse de sentiments multilingue Transformeur multilingue Classification multimodale basée sur RoBERTa Transformer auto-supervisé Classification semi-supervisée basée sur BERT Classification semi-supervisée basée sur RoBERTa Transformeur semi-supervisé Plongements de phrases Transfer Learning avec Classification basée sur BERT Apprentissage par transfert avec reconnaissance d'entités nommées Apprentissage par transfert avec des plongements de phrases Classification par BERT sous supervision faible Classification faiblement supervisée basée sur RoBERTa

Une erreur sur cette page ? Signalez-la ou proposez une correction →

Lire la méthode complète

Method map

Sources

Comment citer cette page

Méthodes apparentées

Which method?

Référencée par