Sztochasztikus optimalizálás — SGD és variánsai
A sztochasztikus optimalizálás iteratív módszerek családja, amelyek egy célfüggvényt minimalizálnak a gradiens véletlenszerűen mintavételezett adatrészhalmazokon — mini-kötegeken — történő kiszámításával, ahelyett, hogy egyszerre a teljes adathalmazon végeznék azt. Az 1951-ben Robbins és Monro által sztochasztikus approximációként úttörőnek számító megközelítés a nagyméretű gépi tanulási modellek betanításának standard motorjává vált olyan variánsok révén, mint az SGD momentummal, az AdaGrad, az RMSProp és az Adam.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/hu/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Bayes-optimalizálásOptimalizálás↔ compare
- Evolúciós Stratégia (CMA-ES)Optimalizálás↔ compare
- Robuszt OptimalizálásOptimalizálás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →