Machine learningDeep learning / NLP / CV

Klasyfikacja oparta na BERT

Klasyfikacja oparta na BERT polega na dostrajaniu modelu Google Bidirectional Encoder Representations from Transformers (BERT) na oznakowanym zbiorze danych tekstowych, zastępując ogólną, wstępnie wytrenowaną głowicę warstwą klasyfikacyjną specyficzną dla zadania. Wykorzystuje ona głęboki kontekst dwukierunkowy z setek milionów wstępnie wytrenowanych parametrów, aby zapewnić najnowocześniejszą dokładność w zadaniach klasyfikacji tekstów krótkich i średniej długości, przy stosunkowo niewielkich ilościach oznakowanych danych.

Otwórz w MethodMindWkrótceWideoWkrótceDownload slides

Przeczytaj pełny opis metody

Tylko dla członków

Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.

Zaloguj się

Method map

The neighbourhood of related methods — select a node to explore.

+60 more

Źródła

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), Lecture Notes in Computer Science, vol 11856, pp. 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16

Jak cytować tę stronę

ScholarGate. (2026, June 3). Bidirectional Encoder Representations from Transformers for Text Classification. ScholarGate. https://scholargate.app/pl/deep-learning/bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Cytowana przez

Klasyfikacja oparta na domenowo adaptowanym modelu BERTNazewnictwo jednostek nazwanych z adaptacją do domenyAdaptacyjne odpowiadanie na pytania w dziedzinie (DA-QA)Adaptacyjna do domeny klasyfikacja oparta na RoBERTaOsadzone reprezentacje zdań adaptowane do dziedzinyAdaptacja domenowa analizy sentymentuAdaptacja domenowa streszczania tekstówWyjaśnialna klasyfikacja oparta na BERTWyjaśnialne rozpoznawanie jednostek nazwanychWyjaśnialne odpowiadanie na pytaniaKlasyfikacja oparta na modelu RoBERTa z wyjaśnieniemWyjaśnialne osadzenia zdańWyjaśnialna analiza sentymentuWyjaśnialne modelowanie tematówWyjaśnialny TransformerKlasyfikacja oparta na dostrojonym modelu BERTDostrojony Doc2VecDostrojona sieć LSTMDostrajanie rozpoznawania jednostek nazewniczychDostrajanie odpowiedzi na pytaniaKlasyfikacja oparta na dostrojonym modelu RoBERTaDostrojone osadzenia zdańDostrajanie podsumowywania tekstuDostrajanie modelowania tematówDostrojony TransformerDostrojony Vision TransformerFine-Tuned Word2VecGated Recurrent Unit (GRU)Model tematyczny LDADługa pamięć krótkotrwała (LSTM)Wielojęzyczne odpowiadanie na pytaniaKlasyfikacja oparta na wielojęzycznym modelu RoBERTaWielojęzyczne osadzanie zdańWielojęzyczna analiza sentymentuWielojęzyczny transformatorWielomodalne rozpoznawanie nazw własnychOdpowiadanie na pytania multimodalneKlasyfikacja multimodalna oparta na modelu RoBERTaStreszczanie multimodalnych tekstówTransformator multimodalnyMultimodal Vision TransformerModel tematyczny NMFRekurencyjna Sieć NeuronowaKlasyfikacja oparta na RoBERTaSamonadzorowany model tematyczny LDASamonadzorowane osadzanie zdańSamonadzorowane modelowanie tematówSamo-nadzorowany TransformerKlasyfikacja półnadzorowana oparta na BERTPółnadzorowany model tematyczny LDAPółnadzorowane odpowiadanie na pytaniaKlasyfikacja oparta na półnadzorczym modelu RoBERTaPółnadzorowane osadzanie zdańPółnadzorowana analiza sentymentuTransformery z uczeniem półnadzorowanymOsadzanie zdańModelowanie tematówUczenie maszynowe z klasyfikacją opartą na BERTTransfer Learning z LSTMUczenie transferowe w rozpoznawaniu nazwanych encjiUczenie transferowe z osadzaniem zdańTransfer Learning with Text SummarizationTransfer Learning z modelowaniem tematycznymKlasyfikacja BERT oparta na słabym nadzorzeSłabo nadzorowane odpowiadanie na pytaniaKlasyfikacja z użyciem RoBERTa z nadzorem słabymSłabo nadzorowane osadzanie zdańSłabe nadzorowanie modelowania tematówSłabo nadzorowany TransformerWeakly Supervised Word2Vec
ScholarGateBERT-based Classification (Bidirectional Encoder Representations from Transformers for Text Classification). Pobrano 2026-06-15 z https://scholargate.app/pl/deep-learning/bert-based-classification · Zbiór danych: https://doi.org/10.5281/zenodo.20539026