Stochastyczne spuszczanie gradientu (SGD)
Stochastyczne spuszczanie gradientu (SGD) to iteracyjny algorytm optymalizacji pierwszego rzędu, wywodzący się z ram stochastycznej aproksymacji wprowadzonej przez Robbinsa i Monro w 1951 roku, który minimalizuje funkcję celu poprzez aktualizację parametrów modelu z wykorzystaniem gradientu obliczonego na pojedynczym losowo wybranym przykładzie treningowym (lub małej mini-paczce) na każdym kroku. Jest to podstawowy mechanizm optymalizacji stojący za nowoczesnym uczeniem maszynowym i głębokim uczeniem, umożliwiający trenowanie modeli na zbiorach danych zbyt dużych, aby zmieściły się w pamięci.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
Źródła
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
Jak cytować tę stronę
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/pl/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Regresja logistycznaStatystyka w badaniach↔ compare
- Random ForestUczenie maszynowe↔ compare
- XGBoostUczenie maszynowe↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →