Batch Normalization
Batch Normalization is a training technique introduced by Sergey Ioffe and Christian Szegedy in 2015 that normalizes the pre-activation outputs of each layer using the mean and variance computed over the current mini-batch. By stabilizing the input distribution to each layer throughout training, it substantially reduces internal covariate shift, enabling the use of higher learning rates and making deep networks train faster and more reliably.
Изходен запис
Цитиранията са копирани дословно от изходния запис на метода. Те не предполагат проверка на ниво твърдение.
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning (ICML), PMLR 37, 448–456. · URL
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. · ISBN 978-0-262-03561-3
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv preprint arXiv:1502.03167. · URL
Подбрани твърдения
Твърденията са запазени в регистъра на доказателствата, всяко със собствена оценка.
Този изглед не измисля оценка на твърдение, когато регистърът няма такава.
Свързани методи
Генерирани от графа на методите и показани като предложени от машината връзки — не се предполага твърдение за доказателство.