LoRA এবং PEFT
Hu et al. কর্তৃক ২০২২ সালে প্রবর্তিত LoRA (Low-Rank Adaptation) এবং প্যারামিটার-দক্ষ ফাইন-টিউনিং (PEFT) পদ্ধতির বৃহত্তর পরিবার বৃহৎ প্রাক-প্রশিক্ষিত ভাষা মডেলগুলিকে নতুন কাজের জন্য অভিযোজিত করে, মডেলের প্রতিটি ওজন পরিবর্তন না করে শুধুমাত্র অল্প সংখ্যক অতিরিক্ত প্যারামিটার প্রশিক্ষণ দিয়ে। এটি অনেক কম GPU মেমরি এবং কম্পিউট ব্যবহার করে ফাইন-টিউনিং সম্ভব করে তোলে, যখন মূল মডেলটি মূলত অক্ষত থাকে।
পুরো পদ্ধতিটি পড়ুন
এই অংশটি পড়তে বিনামূল্যের অ্যাকাউন্ট দিয়ে সাইন ইন করুন।
Method map
The neighbourhood of related methods — select a node to explore.
উৎস
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. link ↗
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. DOI: 10.18653/v1/2021.emnlp-main.243 ↗
এই পৃষ্ঠা কীভাবে উদ্ধৃত করবেন
ScholarGate. (2026, June 1). Low-Rank Adaptation and Parameter-Efficient Fine-Tuning. ScholarGate. https://scholargate.app/bn/deep-learning/lora-peft
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্কগভীর শিখন↔ compare
- Random Forestযন্ত্র শিখন↔ compare
- ভেরিয়েশনাল অটোএনকোডারগভীর শিখন↔ compare
- ভিশন ট্রান্সফরমারগভীর শিখন↔ compare
- XGBoostযন্ত্র শিখন↔ compare
যেখানে উদ্ধৃত
এই পৃষ্ঠায় কোনো ত্রুটি চোখে পড়েছে? জানান বা সংশোধনের প্রস্তাব দিন →