Machine learning

梯度提升（Gradient Boosting）

梯度提升是一种集成学习方法，由 Jerome H. Friedman 于 2001 年正式提出，它将一系列弱学习器（通常是浅层决策树）组合起来，使得每棵新树都拟合前序树的残差误差。它是 XGBoost、LightGBM 和 CatBoost 等流行实现的核心算法。

在 MethodMind 中打开即将推出视频即将推出Download slides

阅读完整方法

仅限会员

使用免费账户登录即可阅读本节。

Method map

The neighbourhood of related methods — select a node to explore.

梯度提升（Gradient Boosting）

决策树 LightGBM 逻辑回归随机森林 XGBoost 主动学习梯度提升主动学习 LightGBM Bagging（Bootstrap Aggreg…贝叶斯提升 (Bayesian Boosting)贝叶斯 LightGBM

+38 more

来源

Friedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232. DOI: 10.1214/aos/1013203451 ↗

如何引用本页

ScholarGate. (2026, June 1). Gradient Boosting Machine (Friedman's Gradient Boosting). ScholarGate. https://scholargate.app/zh/machine-learning/gradient-boosting

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side →

被引用于

主动学习梯度提升主动学习 LightGBM Bagging（Bootstrap Aggregating）贝叶斯提升 (Bayesian Boosting)贝叶斯 LightGBM 贝叶斯XGBoost Boosting Boosting Ensemble Conformal Prediction for Time-Series Forecasting 可解释的极限随机树可解释梯度提升可解释 LightGBM 可解释随机森林可解释堆叠集成可解释XGBoost 极端随机树 (Extra Trees)线性回归 (ML)多元自适应回归样条 (MARS)在线Bagging 在线提升 (Online Boosting)在线梯度提升在线 LightGBM 正则化提升正则化 CatBoost 正则化梯度提升正则化 LightGBM 鲁棒提升鲁棒梯度提升鲁棒LightGBM 鲁棒随机森林鲁棒堆叠集成鲁棒XGBoost 自监督决策树自监督梯度提升 (Self-supervised Gradient Boosting)自监督 LightGBM 半监督 Bagging 半监督提升半监督 CatBoost 半监督决策树半监督梯度提升半监督随机森林半监督堆叠集成半监督XGBoost XGBoost

发现本页有问题？报告或提出修改建议 →

阅读完整方法

Method map

来源

如何引用本页

相关方法

Which method?

被引用于