Ансамбль бустинга

Бустинг — это ансамблевый метод, который последовательно обучает слабые модели и объединяет их в сильный предиктор, фокусируясь на выборках, которые предыдущие модели классифицировали неверно. Каждая новая слабая модель получает вес в зависимости от сложности её задачи обучения, а окончательные предсказания делаются путём взвешенного голосования. Разработанный Schapire (1990) и усовершенствованный в AdaBoost (Freund & Schapire, 1997), бустинг преобразует слабые модели (немногим лучше случайных) в сильные путём последовательного перевзвешивания.