Batch Normalization
Batch Normalization เป็นเทคนิคการฝึกสอนที่ Sergey Ioffe และ Christian Szegedy นำเสนอในปี 2015 ซึ่งทำการปรับค่ามาตรฐานของผลลัพธ์ก่อนการเปิดใช้งาน (pre-activation outputs) ของแต่ละชั้น (layer) โดยใช้ค่าเฉลี่ย (mean) และความแปรปรวน (variance) ที่คำนวณจากมินิแบทช์ (mini-batch) ปัจจุบัน การทำให้การกระจายตัวของอินพุตไปยังแต่ละชั้นมีความเสถียรตลอดการฝึกสอน ช่วยลดปัญหา internal covariate shift ได้อย่างมาก ทำให้สามารถใช้อัตราการเรียนรู้ (learning rate) ที่สูงขึ้น และทำให้โครงข่ายประสาทเทียมแบบลึก (deep networks) ฝึกสอนได้เร็วและน่าเชื่อถือยิ่งขึ้น
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Proceedings of the 32nd International Conference on Machine Learning (ICML), PMLR 37, 448–456. link ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
- Ioffe, S. & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv preprint arXiv:1502.03167. link ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Batch Normalization (Normalizing Layer Activations per Mini-Batch). ScholarGate. https://scholargate.app/th/deep-learning/batch-normalization
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →