手法証拠記録
SGD with Momentum / Adam Optimizer
Stochastic Gradient Descent (SGD) with momentum and its adaptive descendant Adam are the foundational parameter-update algorithms used to train virtually every modern deep learning model. Momentum SGD was formalised by Polyak (1964) and brought into neural network training by Rumelhart, Hinton, and Williams (1986). Adam, introduced by Kingma and Ba at ICLR 2015, extended the momentum idea by also maintaining a running average of squared gradients, producing per-parameter adaptive learning rates that make it the default optimizer in contemporary deep learning practice.
出典記録
引用は手法の出典記録からそのままコピーされています。それらからレベルごとの検証は推論されません。
Stochastic Gradient Descent with Momentum and Adaptive Moment Estimation (Adam)
分類的手法記録 · ml-model / deep-learning
- Kingma, D. P., & Ba, J. (2015). Adam: A method for stochastic optimization. International Conference on Learning Representations (ICLR 2015). arXiv:1412.6980. · URL
- Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323, 533–536. · DOI 10.1038/323533a0
- Polyak, B. T. (1964). Some methods of speeding up the convergence of iteration methods. USSR Computational Mathematics and Mathematical Physics, 4(5), 1–17. · DOI 10.1016/0041-5553(64)90137-5
- Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning (Ch. 8: Optimization for Training Deep Models). MIT Press. · ISBN 978-0-262-03561-3
キュレーションされた主張
主張は証拠台帳に永続化され、それぞれが独自の評価を持っています。
まだキュレーションされた主張はありません
このビューは、台帳に主張評価がない場合、主張評価を生成しません。
関連手法
手法グラフから生成され、機械が提案した関係として表示されます — 証拠主張は推論されません。