Стохастичний градієнтний спуск (SGD)
Стохастичний градієнтний спуск (SGD) — це ітераційний алгоритм оптимізації першого порядку, що базується на методі стохастичного наближення, представленому Роббінсом і Монро у 1951 році, який мінімізує цільову функцію шляхом оновлення параметрів моделі з використанням градієнта, обчисленого на одному випадково вибраному навчальному прикладі (або невеликій міні-групі) на кожному кроці. Це основний оптимізаційний механізм сучасного машинного навчання та глибокого навчання, що дозволяє навчати моделі на наборах даних, які занадто великі, щоб вміститися в пам'ять.
Читати метод повністю
Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.
Method map
The neighbourhood of related methods — select a node to explore.
Джерела
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
Як цитувати цю сторінку
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/uk/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Логістична регресіяСтатистика досліджень↔ compare
- Випадковий лісМашинне навчання↔ compare
- XGBoostМашинне навчання↔ compare
Згадується в
Помітили помилку на цій сторінці? Повідомте про неї або запропонуйте виправлення →