Stokastinen optimointi — SGD ja variantit
Stokastinen optimointi on joukko iteratiivisia menetelmiä, jotka minimoivat kohdefunktiota laskemalla gradientit satunnaisesti otetuista datajoukon osajoukkoista – mini-eristä – sen sijaan, että koko datajoukkoa käsiteltäisiin kerralla. Robbinsin ja Monro'n vuonna 1951 stokastisena approksimaationa edelläkävijöimänä lähestymistapa muodostui standardiksi suurten koneoppimismallien koulutuksessa muunnelmien, kuten SGD momentilla, AdaGradin, RMSProp'n ja Adamin, kautta.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Method map
The neighbourhood of related methods — select a node to explore.
Lähteet
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/fi/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Bayesiläinen optimointiOptimointi↔ compare
- Kovarianssimatriisin adaptaatio (CMA-ES)Optimointi↔ compare
- Robust OptimizationOptimointi↔ compare
Tähän viittaavat
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →