Gradient Boosting

Gradient Boosting là một phương pháp ensemble được giới thiệu bởi Jerome Friedman vào năm 2001, xây dựng một mô hình dự báo mạnh mẽ bằng cách thêm vào tuần tự các cây quyết định nông, mỗi cây sửa lỗi của tập hợp (ensemble) trước đó. Bằng cách định khung bài toán dưới dạng gradient descent trong không gian hàm, nó đạt được độ chính xác tiên tiến trên các tác vụ phân loại, hồi quy và xếp hạng đối với dữ liệu dạng bảng.