Machine learningMachine learning
正則化ブースティング
正則化勾配ブースティングは、目的関数と更新規則に明示的な制御（シュリンケージ（学習率）、L1/L2重みペナルティ、サブサンプリング、ツリー複雑性制限）を追加することで、勾配ブースティングを拡張したものです。これらの制約は過学習を軽減し、ノイズの多いデータセットや小規模なデータセットでのモデルを安定させ、XGBoostやLightGBMのようなシステムが実際の表形式ベンチマークで従来のブースティングを常に上回る主な理由となっています。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗
- Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785–794. DOI: 10.1145/2939672.2939785 ↗
このページの引用方法
ScholarGate. (2026, June 3). Regularized Gradient Boosting (Shrinkage and Penalized Objective Boosting). ScholarGate. https://scholargate.app/ja/machine-learning/regularized-boosting
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- ブースティング機械学習↔ compare
- 勾配ブースティング機械学習↔ compare
- 正則化勾配ブースティング機械学習↔ compare
- 正則化ランダムフォレスト機械学習↔ compare
- XGBoost機械学習↔ compare