Optimizare Stocastică — SGD și Variante
Optimizarea stochastică este o familie de metode iterative care minimizează o funcție obiectiv prin calcularea gradienților pe subseturi de date eșantionate aleatoriu — mini-batch-uri — mai degrabă decât pe întregul set de date simultan. Inițiată de Robbins și Monro în 1951 ca aproximare stochastică, abordarea a devenit motorul standard pentru antrenarea modelelor de învățare automată la scară largă prin variante precum SGD cu impuls (momentum), AdaGrad, RMSProp și Adam.
Citește metoda completă
Autentifică-te cu un cont gratuit pentru a citi această secțiune.
Method map
The neighbourhood of related methods — select a node to explore.
Surse
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Cum se citează această pagină
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/ro/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Optimizare BayesianăOptimizare↔ compare
- Strategia Evolutivă (CMA-ES)Optimizare↔ compare
- Optimizare robustăOptimizare↔ compare
Citat de
Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →