הגברת חיזוק (Regularized Boosting)
הגברת חיזוק מרחיבה את הגברת הגרדיאנט (gradient boosting) על ידי הוספת בקרות מפורשות – כיווץ (קצב למידה), קנסות משקל L1/L2, דגימת משנה (subsampling) ומגבלות על מורכבות העץ – לפונקציית המטרה ולכלל העדכון. אילוצים אלו מפחיתים התאמת-יתר (overfitting), מייצבים את המודל על מערכי נתונים רועשים או קטנים, והם הסיבה המרכזית לכך שמערכות כמו XGBoost ו-LightGBM עולות באופן עקבי על הגברת חיזוק רגילה (vanilla boosting) במדדי ביצוע (benchmarks) טבלאיים בעולם האמיתי.
קראו את השיטה במלואה
התחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/he/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- בוסטינגלמידת מכונה↔ compare
- גרדיאנט בוסטינגלמידת מכונה↔ compare
- הגברת גרדיאנט מוסדרתלמידת מכונה↔ compare
- יער אקראי מרובע (Regularized Random Forest)למידת מכונה↔ compare
- XGBoostלמידת מכונה↔ compare