Пакетная нормализация
Пакетная нормализация (Batch Normalization) — это метод обучения, представленный Сергеем Иоффе и Кристианом Шигеди в 2015 году, который нормализует предварительные выходные данные каждого слоя, используя среднее значение и дисперсию, вычисленные по текущему мини-пакету (mini-batch). Стабилизируя распределение входных данных для каждого слоя на протяжении всего обучения, он существенно уменьшает внутренний сдвиг ковариат (internal covariate shift), позволяя использовать более высокие скорости обучения и делая глубокие сети более быстрыми и надежными в обучении.
Читать метод полностью
Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Источники
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning (ICML), PMLR 37, 448–456. link ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv preprint arXiv:1502.03167. link ↗
Как цитировать эту страницу
ScholarGate. (2026, June 3). Batch Normalization (Normalizing Layer Activations per Mini-Batch). ScholarGate. https://scholargate.app/ru/deep-learning/batch-normalization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →Упоминается в
Нашли ошибку на этой странице? Сообщите о ней или предложите исправление →