Регуляризований бустинг
Регуляризований бустинг розширює градієнтний бустинг шляхом додавання явних контролів — скорочення (швидкість навчання), L1/L2 штрафів за вагу, підвибірки та обмежень складності дерев — до цільової функції та правила оновлення. Ці обмеження зменшують перенавчання, стабілізують модель на зашумлених або малих наборах даних і є основною причиною, чому такі системи, як XGBoost та LightGBM, стабільно перевершують звичайний бустинг на реальних табличних бенчмарках.
Читати метод повністю
Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.
Method map
The neighbourhood of related methods — select a node to explore.
Джерела
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
Як цитувати цю сторінку
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/uk/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- БустингМашинне навчання↔ compare
- Градiєнтний бустингМашинне навчання↔ compare
- Регуляризований градієнтний бустингМашинне навчання↔ compare
- Регуляризований випадковий лісМашинне навчання↔ compare
- XGBoostМашинне навчання↔ compare
Згадується в
Помітили помилку на цій сторінці? Повідомте про неї або запропонуйте виправлення →