ScholarGate
Assistente
Machine learningDeep learning / NLP / CV

Classificazione basata su RoBERTa adattata al dominio

La classificazione basata su RoBERTa adattata al dominio estende il trasformatore RoBERTa continuando innanzitutto il suo pre-addestramento con modello linguistico mascherato su un corpus specifico del dominio prima di eseguire il fine-tuning per un compito di classificazione. Questa adattamento a due stadi colma il divario tra i dati di addestramento generali raccolti dal web e i campi specializzati come il testo biomedico, legale o scientifico, superando costantemente il fine-tuning standard di RoBERTa quando è disponibile testo del dominio di destinazione.

Apri in MethodMindIn arrivoVideoIn arrivoDownload slides

Leggi il metodo completo

Riservato ai membri

Accedi con un account gratuito per leggere questa sezione.

Accedi

Method map

The neighbourhood of related methods — select a node to explore.

Fonti

  1. Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link
  2. Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740

Come citare questa pagina

ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/it/deep-learning/domain-adaptive-roberta-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateDomain-adaptive RoBERTa-based Classification (Domain-Adaptive RoBERTa-based Text Classification). Consultato il 2026-06-15 da https://scholargate.app/it/deep-learning/domain-adaptive-roberta-based-classification · Insieme di dati: https://doi.org/10.5281/zenodo.20539026