Optimització estocàstica — SGD i variants
L'optimització estocàstica és una família de mètodes iteratius que minimitzen una funció objectiu calculant gradients sobre subconjunts de dades mostrejats aleatòriament — mini-batches — en lloc de sobre tot el conjunt de dades alhora. Pionera per Robbins i Monro el 1951 com a aproximació estocàstica, l'enfocament es va convertir en el motor estàndard per entrenar models d'aprenentatge automàtic a gran escala a través de variants com SGD amb moment, AdaGrad, RMSProp i Adam.
Llegeix el mètode complet
Inicia la sessió amb un compte gratuït per llegir aquesta secció.
Method map
The neighbourhood of related methods — select a node to explore.
Fonts
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Com citar aquesta pàgina
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/ca/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Optimització bayesianaOptimització↔ compare
- Estratègia Evolutiva (CMA-ES)Optimització↔ compare
- Optimització RobustaOptimització↔ compare
Citat per
Has vist cap problema en aquesta pàgina? Informa'n o suggereix una correcció →