Regularizált Boosting
A regularizált boosting (szabályozott kiemelés) a gradiens kiemelést (gradient boosting) kiterjeszti explicit szabályozókkal – zsugorítás (tanulási ráta), L1/L2 súlybüntetések, almintavételezés és fa-komplexitási korlátok – az objektív függvénybe és a frissítési szabályba. Ezek a korlátozások csökkentik a túlillesztést (overfitting), stabilizálják a modellt zajos vagy kis adathalmazokon, és ezek a fő okai annak, hogy az olyan rendszerek, mint az XGBoost és a LightGBM, következetesen felülmúlják a „vanilla” (hagyományos) kiemelést a valós táblázatos adatokon végzett összehasonlító méréseken.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/hu/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BoostingGépi tanulás↔ compare
- Gradient BoostingGépi tanulás↔ compare
- Regularizált Gradient BoostingGépi tanulás↔ compare
- Regularized Random ForestGépi tanulás↔ compare
- XGBoostGépi tanulás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →