Στοχαστική Βελτιστοποίηση — SGD και Παραλλαγές
Η στοχαστική βελτιστοποίηση είναι μια οικογένεια επαναληπτικών μεθόδων που ελαχιστοποιούν μια συνάρτηση στόχου υπολογίζοντας κλίσεις σε τυχαία δειγματοληπτημένα υποσύνολα δεδομένων — μίνι-δέσμες — αντί για ολόκληρο το σύνολο δεδομένων ταυτόχρονα. Πρωτοπορώντας από τους Robbins και Monro το 1951 ως στοχαστική προσέγγιση, η προσέγγιση έγινε το πρότυπο για την εκπαίδευση μεγάλων μοντέλων μηχανικής μάθησης μέσω παραλλαγών όπως το SGD με ορμή, AdaGrad, RMSProp και Adam.
Διαβάστε ολόκληρη τη μέθοδο
Συνδεθείτε με δωρεάν λογαριασμό για να διαβάσετε αυτή την ενότητα.
Method map
The neighbourhood of related methods — select a node to explore.
Πηγές
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407. DOI: 10.1214/aoms/1177729586 ↗
- Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015). link ↗
Πώς να παραπέμψετε σε αυτή τη σελίδα
ScholarGate. (2026, June 1). Stochastic Optimization (SGD and Variants). ScholarGate. https://scholargate.app/el/optimization/stochastic-optimization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Βελτιστοποίηση BayesΒελτιστοποίηση↔ compare
- Στρατηγική Εξέλιξης (CMA-ES)Βελτιστοποίηση↔ compare
- Στιβαρή ΒελτιστοποίησηΒελτιστοποίηση↔ compare
Αναφέρεται από
Εντοπίσατε πρόβλημα σε αυτή τη σελίδα; Αναφέρετέ το ή προτείνετε διόρθωση →