کاهش گرادیان تصادفی (SGD)
کاهش گرادیان تصادفی (SGD) یک الگوریتم بهینهسازی تکراری مرتبه اول است که ریشه در چارچوب تقریب تصادفی معرفی شده توسط رابینز و مونرو در سال ۱۹۵۱ دارد. این الگوریتم با بهروزرسانی پارامترهای مدل با استفاده از گرادیان محاسبه شده بر روی یک نمونه آموزشی تصادفی انتخاب شده (یا یک دسته کوچک) در هر مرحله، یک تابع هدف را کمینه میکند. این الگوریتم موتور بهینهسازی اصلی در پشت یادگیری ماشین مدرن و یادگیری عمیق است و امکان آموزش مدلها را بر روی مجموعه دادههایی که برای جا گرفتن در حافظه بسیار بزرگ هستند، فراهم میکند.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
Method map
The neighbourhood of related methods — select a node to explore.
منابع
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/fa/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- رگرسیون لجستیکآمار پژوهش↔ compare
- جنگل تصادفییادگیری ماشین↔ compare
- XGBoostیادگیری ماشین↔ compare
ارجاعشده در
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →