Bagging Ensemble

Bagging, forkortet bootstrap aggregating, er en ensemblemetode som reduserer varians ved å trene flere kopier av en enkelt læringsalgoritme på forskjellige tilfeldige delmengder av treningsdataene. Hver delmengde opprettes via bootstrap-sampling – tilfeldig trekking av observasjoner med tilbakelegging. Prediksjoner kombineres gjennom flertallsavstemning (klassifisering) eller gjennomsnittsberegning (regresjon). Bagging, introdusert av Leo Breiman i 1996, danner grunnlaget for random forests og er spesielt effektiv for å redusere overtilpasning i modeller med høy varians.