Extra Trees

Extra Trees (Extremely Randomized Trees), eingeführt von Geurts, Ernst und Wehenkel im Jahr 2006, ist ein Ensemble von Entscheidungsbäumen, das die Zufälligkeit weiter treibt als Random Forest. Sowohl die Kandidatenmerkmale als auch die Schwellenwerte für die Aufteilung werden an jedem Knoten vollständig zufällig gewählt, wodurch die gierige Suche nach Schwellenwerten entfällt. Diese zusätzliche Zufälligkeit reduziert die Varianz, erreicht oft die Genauigkeit von Random Forest oder übertrifft sie und ist zur Trainingszeit erheblich schneller.