Regularized Boosting
Regularizované boostování rozšiřuje gradientní boostování o explicitní kontrolní mechanismy – zmenšení (learning rate), L1/L2 penalizaci vah, subsampling a omezení složitosti stromů – přidané do účelové funkce a aktualizačního pravidla. Tato omezení snižují přeučení, stabilizují model na zašuměných nebo malých datasetech a jsou klíčovým důvodem, proč systémy jako XGBoost a LightGBM na reálných tabulkových datasetech konzistentně překonávají standardní boostování.
Přečíst celou metodu
Pro přečtení této sekce se přihlaste s bezplatným účtem.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
Jak citovat tuto stránku
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/cs/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- ZesilováníStrojové učení↔ compare
- Gradient BoostingStrojové učení↔ compare
- Regularizované gradientní posilováníStrojové učení↔ compare
- Regularizovaný náhodný lesStrojové učení↔ compare
- XGBoostStrojové učení↔ compare
Odkazuje sem
Našli jste na této stránce chybu? Nahlaste ji nebo navrhněte opravu →