Uboreshaji wa Stochastiki — SGD na Vigezo Vyake

Uboreshaji wa stochastiki ni familia ya mbinu za kurudia-rudia zinazopunguza utendaji kazi lengwa kwa kukokotoa miteremko kwenye sehemu ndogo za data zilizochaguliwa kwa nasibu — vikundi vidogo — badala ya kutumia data nzima mara moja. Njia hii, iliyoanzishwa na Robbins na Monro mwaka 1951 kama dhana ya kurekebisha stochastiki, ilikuja kuwa injini sanifu ya kufundisha mifumo mikubwa ya kujifunza kwa mashine kupitia vigezo kama vile SGD yenye kasi, AdaGrad, RMSProp, na Adam.