ScholarGate
Asistenti
Machine learningDeep learning / NLP / CV

Klasifikimi i bazuar në BERT të përshtatur me domen

Klasifikimi i bazuar në BERT të përshtatur me domen zgjeron procesin standard të 'fine-tuning' duke vazhduar fillimisht para-stërvitjen e modelit të gjuhës së maskuar (masked-language-model) të BERT-it në një korpus të madh tekstesh të paetiketuara të domenit, pastaj duke përshtatur modelin e adaptuar në shembuj të etiketuar për detyrën e klasifikimit të synuar. Ky qasim dy-fazor mbyll boshllëkun e fjalorit dhe shpërndarjes midis korpusit të përgjithshëm të para-stërvitjes së BERT-it dhe domeneve të specializuara siç janë tekstet e bioteknologjisë, ligjit, financës ose mediave sociale.

Hapeni në MethodMindSë shpejtiVideoSë shpejtiDownload slides

Lexoni metodën e plotë

Vetëm për anëtarët

Hyni me një llogari falas për ta lexuar këtë seksion.

Hyni

Method map

The neighbourhood of related methods — select a node to explore.

Klasifikimi i bazuar në BERT të përshtatur me domen
Klasifikimi i bazuar në…Transformer i Përshtatsh…Klasifikim i bazuar në B…Klasifikim i bazuar në R…Embërtimet e fjaliveMësimi me Transferim me…Doc2Vec i përshtatshëm p…Njohja e Entiteteve të E…Përgjigje Pyetjesh e Ada…Rrjeti nervor rekurrent…

+4 more

Burimet

  1. Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
  2. Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗

Si ta citoni këtë faqe

ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/sq/deep-learning/domain-adaptive-bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

Cituar nga

Doc2Vec i përshtatshëm për domenNjohja e Entiteteve të Emërtuara e Përshtatur me DomëninPërgjigje Pyetjesh e Adaptuar ndaj DomenitRrjeti nervor rekurrent i përshtatshëm për domeninKlasifikimi i Bazuar në RoBERTa me Përshtatje DomeniPërmbledhje teksti adaptuese ndaj domenitVision Transformer i Përshtatshëm për Domene (DA-ViT)Klasifikim i bazuar në BERT me mbikëqyrje të dobët

Vutë re një problem në këtë faqe? Raportojeni ose sugjeroni një korrigjim →

ScholarGate — Domain-adaptive BERT-based Classification (Domain-Adaptive Pre-training with BERT for Text Classification). Marrë më 2026-06-15 nga https://scholargate.app/sq/deep-learning/domain-adaptive-bert-based-classification · Seti i të dhënave: https://doi.org/10.5281/zenodo.20539026