Normalizace dávek
Normalizace dávek je tréninková technika zavedená Sergejem Ioffem a Christianem Szegedy v roce 2015, která normalizuje předaktivační výstupy každé vrstvy pomocí střední hodnoty a rozptylu vypočítaných z aktuální mini-dávky. Stabilizací distribučního rozdělení vstupů do každé vrstvy během tréninku podstatně snižuje vnitřní kovarianční posun, což umožňuje použití vyšších učících rychlostí a činí hluboké sítě trénovanější rychleji a spolehlivěji.
Přečíst celou metodu
Pro přečtení této sekce se přihlaste s bezplatným účtem.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning (ICML), PMLR 37, 448–456. link ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv preprint arXiv:1502.03167. link ↗
Jak citovat tuto stránku
ScholarGate. (2026, June 3). Batch Normalization (Normalizing Layer Activations per Mini-Batch). ScholarGate. https://scholargate.app/cs/deep-learning/batch-normalization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →Odkazuje sem
Našli jste na této stránce chybu? Nahlaste ji nebo navrhněte opravu →