Gradient Boosting

Gradient Boosting es un método de aprendizaje por conjuntos (ensemble learning), formalizado por Jerome H. Friedman en 2001, que combina una secuencia de "aprendices débiles" (weak learners) —típicamente árboles de decisión poco profundos— de modo que cada nuevo árbol se ajusta para minimizar los errores residuales de los árboles anteriores. Es el algoritmo central detrás de implementaciones populares como XGBoost, LightGBM y CatBoost.