Stochastic Gradient Descent
Stochastic Gradient Descent (SGD) is a first-order iterative optimization algorithm, rooted in the stochastic approximation framework introduced by Robbins and Monro in 1951, that minimizes an objective function by updating model parameters using the gradient computed on a single randomly selected training example (or a small mini-batch) at each step. It is the core optimization engine behind modern machine learning and deep learning, enabling the training of models on datasets too large to fit in memory.
Registro de origem
Citações copiadas literalmente do registro de origem do método. Nenhuma verificação em nível de alegação é inferida delas.
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. · DOI 10.1214/aoms/1177729586
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. · ISBN 978-0-262-03561-3
Alegações curadas
Alegações persistidas no livro-razão de evidências, cada uma com sua própria avaliação.
Esta visualização não inventa uma avaliação de alegação quando o livro-razão não a possui.
Métodos relacionados
Gerado a partir do grafo de métodos e mostrado como relações sugeridas por máquina — nenhuma alegação de evidência é inferida.