Batch Normalization
Batch Normalization er en treningsteknikk introdusert av Sergey Ioffe og Christian Szegedy i 2015 som normaliserer pre-aktiveringsutgangene fra hvert lag ved å bruke gjennomsnittet og variansen beregnet over den aktuelle minibatch-en. Ved å stabilisere inngangsdistribusjonen til hvert lag gjennom hele treningen, reduserer den internt 'covariate shift' betydelig, noe som muliggjør bruk av høyere læringsrater og gjør dype nettverk raskere og mer pålitelige å trene.
Les hele metoden
Logg inn med en gratis konto for å lese denne delen.
Method map
The neighbourhood of related methods — select a node to explore.
Kilder
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning (ICML), PMLR 37, 448–456. link ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv preprint arXiv:1502.03167. link ↗
Slik siterer du denne siden
ScholarGate. (2026, June 3). Batch Normalization (Normalizing Layer Activations per Mini-Batch). ScholarGate. https://scholargate.app/no/deep-learning/batch-normalization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →Referert av
Funnet en feil på denne siden? Rapporter eller foreslå en rettelse →