Machine learningDeep learning / NLP / CV

Classificação baseada em RoBERTa

A Classificação baseada em RoBERTa aplica o transformador pré-treinado RoBERTa — treinado de forma mais robusta que o BERT com mascaramento dinâmico e lotes maiores — a tarefas de categorização de texto, adicionando uma cabeça de classificação leve sobre a representação do token [CLS] e ajustando o modelo inteiro em exemplos rotulados. Consistentemente iguala ou supera o BERT em benchmarks padrão de PLN.

Abrir no MethodMindEm breveVídeoEm breveDownload slides

Leia o método completo

Exclusivo para membros

Entre com uma conta gratuita para ler esta seção.

Entrar

Method map

The neighbourhood of related methods — select a node to explore.

Classificação baseada em RoBERTa

Classificação baseada em…Classificação Ajustada c…Unidade Recorrente Gated…Long Short-Term Memory (…Embeddings de Sentenças Classificação baseada em…Question Answering Adapt…Classificação Baseada em…Embeddings de Sentenças…Análise de Sentimento Ad…

+24 more

Fontes

Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗

Como citar esta página

ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/pt/deep-learning/roberta-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Classificação baseada em BERTAprendizado profundo↔ compare
Classificação Ajustada com RoBERTaAprendizado profundo↔ compare
Unidade Recorrente Gated (GRU)Aprendizado profundo↔ compare
Long Short-Term Memory (LSTM)Aprendizado profundo↔ compare
Embeddings de SentençasAprendizado profundo↔ compare

Compare side by side →

Referenciado por

Classificação baseada em BERT Classificação baseada em BERT com adaptação de domínio Question Answering Adaptado ao Domínio Classificação Baseada em RoBERTa Adaptada ao Domínio Embeddings de Sentenças Adaptados ao Domínio Análise de Sentimento Adaptada a Domínio Classificação Explicável Baseada em BERT Question Answering Explicável Classificação Explicável Baseada em RoBERTa Análise de Sentimento Explicável Classificação Fina Ajustada Baseada em BERT Fine-Tuned Named Entity Recognition Question Answering Ajustado Classificação Ajustada com RoBERTa Embeddings de Frases Ajustados por Ajuste Fino Sumarização de Texto Ajustada Transformer Ajustado Finamente Resposta a Perguntas Multilíngues Classificação baseada em RoBERTa multilíngue Análise de Sentimento Multilíngue Transformer multilíngue Classificação Multimodal Baseada em RoBERTa Transformer Auto-supervisionado Classificação Semi-supervisionada Baseada em BERT Classificação Semi-supervisionada Baseada em RoBERTa Transformador Semissupervisionado Embeddings de Sentenças Transfer Learning com Classificação Baseada em BERT Transfer Learning com Reconhecimento de Entidades Nomeadas Aprendizagem por Transferência com Embeddings de Sentenças Classificação baseada em BERT com Supervisão Fraca Classificação Fracamente Supervisionada Baseada em RoBERTa

Encontrou um problema nesta página? Relate ou sugira uma correção →

Leia o método completo

Method map

Fontes

Como citar esta página

Métodos relacionados

Which method?

Referenciado por