ScholarGate
Asistents
Machine learningDeep learning / NLP / CV

Domenam pielāgotā BERT klasifikācija

Domenam pielāgotā BERT klasifikācija paplašina standarta smalkās regulēšanas (fine-tuning) procesu, vispirms turpinot BERT maskētās valodas modelēšanas (MLM) pirmapmācību uz liela apjoma domēnam specifisku neapzīmētu tekstu, pēc tam pielāgojot modeli ar apzīmētiem piemēriem mērķa klasifikācijas uzdevumam. Šī divu posmu pieeja novērš vārdnīcas un sadalījuma atšķirības starp BERT vispārīgo pirmapmācības korpusu un specializētiem domēniem, piemēram, biomedicīnu, tiesībām, finanšu vai sociālo mediju tekstiem.

Atvērt MethodMindDrīzumāVideoDrīzumāDownload slides

Lasīt pilno metodes aprakstu

Tikai dalībniekiem

Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.

Pieteikties

Method map

The neighbourhood of related methods — select a node to explore.

Domenam pielāgotā BERT klasifikācija
BERT klasifikācijaAdaptīvs domēna pārneses…Klasifikācija, kas pielā…Klasifikācija, kas balst…Ievietojumi teikumiemPārneses apmācība ar BER…Adaptīvs domēniem Doc2VecDomenam pielāgotā nosauk…Jomapielāgota jautājumu…Adaptīvs domēna rekurent…

+4 more

Avoti

  1. Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
  2. Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗

Kā citēt šo lapu

ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/lv/deep-learning/domain-adaptive-bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

Uz to atsaucas

Adaptīvs domēniem Doc2VecDomenam pielāgotā nosaukto entitāšu atpazīšanaJomapielāgota jautājumu atbildēšanaAdaptīvs domēna rekurentais neironu tīklsUz domēnu adaptēta RoBERTa balstīta klasifikācijaAdaptīvā domēnas tekstveida kopsavilkšanaDomain-Adaptive Vision TransformerBERT klasifikācija ar vājo uzraudzību

Pamanījāt kļūdu šajā lapā? Ziņojiet vai ierosiniet labojumu →

ScholarGate — Domain-adaptive BERT-based Classification (Domain-Adaptive Pre-training with BERT for Text Classification). Izgūts 2026-06-15 no https://scholargate.app/lv/deep-learning/domain-adaptive-bert-based-classification · Datu kopa: https://doi.org/10.5281/zenodo.20539026