Ensemble Bagging

Bagging, viết tắt của bootstrap aggregating (tổng hợp mẫu bootstrap), là một phương pháp ensemble (tập hợp) nhằm giảm phương sai bằng cách huấn luyện nhiều bản sao của một thuật toán học máy duy nhất trên các tập con dữ liệu huấn luyện ngẫu nhiên khác nhau. Mỗi tập con được tạo ra thông qua lấy mẫu bootstrap—lấy mẫu ngẫu nhiên có hoàn lại. Các dự đoán được kết hợp thông qua bỏ phiếu đa số (phân loại) hoặc lấy trung bình (hồi quy). Được giới thiệu bởi Leo Breiman vào năm 1996, bagging là nền tảng cho random forests (rừng ngẫu nhiên) và đặc biệt hiệu quả trong việc giảm overfitting (quá khớp) ở các mô hình có phương sai cao.