ScholarGate
Assistent
Machine learningDeep learning / NLP / CV

Domänadaptiv BERT-baserad klassificering

Domänadaptiv BERT-baserad klassificering utökar standard-finjusteringspipelinen genom att först fortsätta BERT:s maskerade språkmodellerings-förträning på ett stort korpus av oetiketterad text inom domänen, och sedan finjustera den anpassade modellen på etiketterade exempel för den målinriktade klassificeringsuppgiften. Detta tvåstegsmetod överbryggar vokabulär- och distributionsgapet mellan BERT:s generella förträningskorpus och specialiserade domäner såsom biomedicin, juridik, finans eller sociala medier.

Öppna i MethodMindSnartVideoSnartDownload slides

Läs hela metoden

Endast för medlemmar

Logga in med ett kostnadsfritt konto för att läsa avsnittet.

Logga in

Method map

The neighbourhood of related methods — select a node to explore.

Domänadaptiv BERT-baserad klassificering
BERT-baserad klassificer…Domänadaptiv TransformerFintrimmad BERT-baserad…Klassificering baserad p…MeningsinbäddningarTransfer Learning med BE…Domänadaptiv Doc2VecDomänadaptiv namngiven e…Domänadaptiv frågesvar (…Domänadaptivt rekurrent…

+4 more

Källor

  1. Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
  2. Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗

Så citerar du den här sidan

ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/sv/deep-learning/domain-adaptive-bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

Refereras av

Domänadaptiv Doc2VecDomänadaptiv namngiven entitetsigenkänningDomänadaptiv frågesvar (DA-QA)Domänadaptivt rekurrent neuralt nätverkDomänadaptiv RoBERTa-baserad klassificeringDomänanpassad textsammanfattningDomänadaptiv Vision TransformerSvag övervakad BERT-baserad klassificering

Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →

ScholarGate — Domain-adaptive BERT-based Classification (Domain-Adaptive Pre-training with BERT for Text Classification). Hämtad 2026-06-15 från https://scholargate.app/sv/deep-learning/domain-adaptive-bert-based-classification · Datamängd: https://doi.org/10.5281/zenodo.20539026