Регуляризованный бустинг
Регуляризованный бустинг расширяет градиентный бустинг путем добавления явных элементов управления — урезок (скорость обучения), штрафов L1/L2 за веса, субвыборки и ограничений сложности деревьев — к целевой функции и правилу обновления. Эти ограничения уменьшают переобучение, стабилизируют модель на зашумленных или малых наборах данных и являются основной причиной того, что такие системы, как XGBoost и LightGBM, последовательно превосходят обычный бустинг на реальных табличных бенчмарках.
Читать метод полностью
Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Источники
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
Как цитировать эту страницу
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/ru/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- БустингМашинное обучение↔ compare
- Градиентный бустингМашинное обучение↔ compare
- Регуляризованный градиентный бустингМашинное обучение↔ compare
- Регуляризованный случайный лесМашинное обучение↔ compare
- XGBoostМашинное обучение↔ compare
Упоминается в
Нашли ошибку на этой странице? Сообщите о ней или предложите исправление →