Стохастичен градиентен спусък (SGD)
Стохастичният градиентен спусък (SGD) е итеративен оптимизационен алгоритъм от първи ред, вкоренен в рамката на стохастичната апроксимация, въведена от Робинс и Монро през 1951 г., който минимизира целева функция чрез актуализиране на параметрите на модела, използвайки градиента, изчислен върху един случайно избран тренировъчен пример (или малка мини-партида) на всяка стъпка. Той е основният оптимизационен механизъм зад модерното машинно обучение и дълбоко обучение, позволяващ обучението на модели върху набори от данни, които са твърде големи, за да се поберат в паметта.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Източници
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
Как да цитирате тази страница
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/bg/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Логистична регресияСтатистика за изследвания↔ compare
- Случайна гораМашинно обучение↔ compare
- XGBoostМашинно обучение↔ compare
Цитиран в
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →