Stochastická optimalizácia — SGD a varianty
Stochastická optimalizácia je rodina iteratívnych metód, ktoré minimalizujú účelovú funkciu výpočtom gradientov na náhodne vybratých podmnožinách údajov — mini-dávkach — namiesto na celej databáze naraz. Tento prístup, ktorý v roku 1951 iniciovali Robbins a Monro ako stochastickú aproximáciu, sa stal štandardným motorom na trénovanie rozsiahlych modelov strojového učenia prostredníctvom variantov, ako sú SGD s momentom, AdaGrad, RMSProp a Adam.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Ako citovať túto stránku
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/sk/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Bayesovská optimalizáciaOptimalizácia↔ compare
- Evolučná stratégia (CMA-ES)Optimalizácia↔ compare
- Robustná optimalizáciaOptimalizácia↔ compare
Odkazujú sem
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →