Stohastički gradijentni spust (SGD)
Stochastic Gradient Descent (SGD) je iterativni optimizacioni algoritam prve vrste, zasnovan na okviru stohastičke aproksimacije koji su uveli Robbins i Monro 1951. godine, a koji minimizira ciljnu funkciju ažuriranjem parametara modela korišćenjem gradijenta izračunatog na jednom slučajno odabranom trening primerku (ili maloj mini-grupi) u svakom koraku. To je osnovni optimizacioni mehanizam modernog mašinskog učenja i dubokog učenja, koji omogućava treniranje modela na skupovima podataka prevelikim da bi stali u memoriju.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/sr/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Logistička regresijaIstraživačka statistika↔ compare
- Slučajna šumaMašinsko učenje↔ compare
- XGBoostMašinsko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →