Machine learningDeep learning / NLP / CV

স্ব-শিক্ষিত RoBERTa-ভিত্তিক শ্রেণিবিন্যাস

স্ব-শিক্ষিত RoBERTa-ভিত্তিক শ্রেণিবিন্যাস, RoBERTa ট্রান্সফরমারের শক্তিশালী ভাষা উপস্থাপনা — যা মাস্কড-ভাষা মডেলিংয়ের মাধ্যমে বৃহৎ লেবেলবিহীন কর্পোরা থেকে শেখা — সেটিকে স্ব-শিক্ষিত উদ্দেশ্যগুলির সাথে একত্রিত করে অল্প বা কোনো মানব-লেবেলযুক্ত ডেটা ছাড়াই টেক্সট শ্রেণিবিন্যাসের জন্য। এই পদ্ধতিটি ডাউনস্ট্রিম শ্রেণিবিন্যাস কাজের উপর ফাইন-টিউনিং করার আগে তার নিজস্ব প্রশিক্ষণের সংকেত তৈরি করতে প্রচুর পরিমাণে লেবেলবিহীন টেক্সট ব্যবহার করে।

MethodMind-এ খুলুনশীঘ্রইভিডিওশীঘ্রইDownload slides

পুরো পদ্ধতিটি পড়ুন

শুধু সদস্যদের জন্য

এই অংশটি পড়তে বিনামূল্যের অ্যাকাউন্ট দিয়ে সাইন ইন করুন।

সাইন ইন করুন

উৎস

  1. Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link
  2. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423

এই পৃষ্ঠা কীভাবে উদ্ধৃত করবেন

ScholarGate. (2026, June 3). Self-supervised RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/bn/deep-learning/self-supervised-roberta-based-classification

ScholarGateSelf-supervised RoBERTa-based classification (Self-supervised RoBERTa-based Text Classification). 2026-06-15 তারিখে সংগৃহীত, উৎস: https://scholargate.app/bn/deep-learning/self-supervised-roberta-based-classification · ডেটাসেট: https://doi.org/10.5281/zenodo.20539026