Regularized Boosting
Regularized boosting เป็นการต่อยอดเทคนิค gradient boosting โดยเพิ่มการควบคุมที่ชัดเจน — การหรี่แสง (learning rate), การลงโทษน้ำหนัก L1/L2 (L1/L2 weight penalties), การสุ่มตัวอย่างย่อย (subsampling), และการจำกัดความซับซ้อนของต้นไม้ (tree-complexity limits) — เข้าไปในฟังก์ชันวัตถุประสงค์ (objective function) และกฎการอัปเดต (update rule) ข้อจำกัดเหล่านี้ช่วยลดการเกิด overfitting ทำให้โมเดลมีความเสถียรบนชุดข้อมูลที่มีสัญญาณรบกวน (noisy) หรือมีขนาดเล็ก และเป็นเหตุผลหลักที่ทำให้ระบบอย่าง XGBoost และ LightGBM มีประสิทธิภาพเหนือกว่า vanilla boosting อย่างสม่ำเสมอเมื่อเทียบกับเกณฑ์มาตรฐานของข้อมูลแบบตาราง (tabular benchmarks) ในโลกแห่งความเป็นจริง
อ่านวิธีฉบับเต็ม
เข้าสู่ระบบด้วยบัญชีฟรีเพื่ออ่านส่วนนี้
Method map
The neighbourhood of related methods — select a node to explore.
แหล่งอ้างอิง
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
วิธีอ้างอิงหน้านี้
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/th/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Boostingการเรียนรู้ของเครื่อง↔ compare
- การเสริมกำลังไล่ระดับการเรียนรู้ของเครื่อง↔ compare
- การเพิ่มกำลังไล่ระดับแบบปรับให้เหมาะสมการเรียนรู้ของเครื่อง↔ compare
- Regularized Random Forestการเรียนรู้ของเครื่อง↔ compare
- XGBoostการเรียนรู้ของเครื่อง↔ compare