ScholarGate
Assistente
Machine learningDeep learning / NLP / CV

Classificazione basata su BERT adattata al dominio

La classificazione basata su BERT adattata al dominio estende la pipeline standard di fine-tuning continuando innanzitutto il pre-addestramento del modello linguistico mascherato (MLM) di BERT su un ampio corpus di testo non etichettato del dominio specifico, quindi adattando il modello modificato su esempi etichettati per il compito di classificazione target. Questo approccio a due stadi colma il divario di vocabolario e distribuzione tra il corpus di pre-addestramento generale di BERT e domini specializzati come la biomedicina, il diritto, la finanza o i testi dei social media.

Apri in MethodMindIn arrivoVideoIn arrivoDownload slides

Leggi il metodo completo

Riservato ai membri

Accedi con un account gratuito per leggere questa sezione.

Accedi

Method map

The neighbourhood of related methods — select a node to explore.

Classificazione basata su BERT adattata al dominio
Classificazione basata s…Transformer Adattivo al…Classificazione basata s…Classificazione basata s…Sentence EmbeddingsApprendimento per trasfe…Doc2Vec Adattato al Domi…Riconoscimento di Entità…Question Answering Adatt…Rete Neurale Ricorrente…

+4 more

Fonti

  1. Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
  2. Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗

Come citare questa pagina

ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/it/deep-learning/domain-adaptive-bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

Citato da

Doc2Vec Adattato al DominioRiconoscimento di Entità Nominate Adattivo al DominioQuestion Answering Adattivo al DominioRete Neurale Ricorrente Adattiva al DominioClassificazione basata su RoBERTa adattata al dominioSummarizzazione Adattiva al DominioVision Transformer Adattivo al DominioClassificazione debolemente supervisionata basata su BERT

Hai notato un problema in questa pagina? Segnalalo o proponi una correzione →

ScholarGate — Domain-adaptive BERT-based Classification (Domain-Adaptive Pre-training with BERT for Text Classification). Consultato il 2026-06-15 da https://scholargate.app/it/deep-learning/domain-adaptive-bert-based-classification · Insieme di dati: https://doi.org/10.5281/zenodo.20539026