Düzenlileştirilmiş Karar Ağacı
Regularized Decision Tree (Pruned and Constrained CART) · Ayrıca şöyle bilinir: pruned decision tree, cost-complexity pruned tree, penalized decision tree, constrained CART
Düzenlileştirilmiş bir karar ağacı, aşırı uydurmayı önlemek için budama, derinlik kısıtlamaları veya ceza terimleri aracılığıyla karmaşıklığı kasıtlı olarak sınırlanmış bir karar ağacı modelidir. Breiman ve ark.'nın CART çerçevesine (1984) dayanan düzenlileştirme, açgözlü ağaç büyütme prosedürünü bir yanlılık-varyans ödünleşmesine dönüştürerek, tam büyütülmüş ağaçlardan daha önce görülmemiş verilere daha iyi genelleme yapan modeller üretir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Yorumlanabilir, kural tabanlı bir model gerektirdiğinizde ve tam büyütülmüş ağaçları etkileyen aşırı uydurmadan kaçınmak istediğinizde düzenlileştirilmiş bir karar ağacı kullanın. Paydaşların şeffaf bölünme mantığı gerektirdiği onlarca ila yüzlerce özellik içeren veri kümeleri için uygundur. Örneklem boyutlarının mütevazı olduğu, gürültünün mevcut olduğu veya modelin denetleneceği durumlarda düzenlileştirilmemiş olanlara göre düzenlileştirilmiş karar ağaçlarını tercih edin. Tahmin doğruluğunun en önemli olduğu ve yorumlanabilirliğin ikincil olduğu durumlarda kullanmayın — rastgele ormanlar veya gradyan artırma gibi topluluk yöntemleri tek bir ağaçtan neredeyse her zaman daha iyi performans gösterecektir. Ayrıca, çapraz doğrulanan budama güvenilmez hale geldiği için yaklaşık 30 gözlemden az olduğunda kaçının.
Güçlü yönler & sınırlılıklar
- Budamadan sonra yorumlanabilir, insan tarafından okunabilir bir dizi eğer-o zaman kuralı üretir.
- Maliyet-karmaşıklık budaması prensiplidir: model karmaşıklığını ad hoc kurallar yerine çapraz doğrulama ile seçer.
- Ön işleme gerek kalmadan karma (sürekli, kategorik, ikili) özellik türlerini işler.
- Açık özellik mühendisliği gerektirmeden doğrusal olmayan ilişkileri ve özellik etkileşimlerini modelleyebilir.
- Düzenlileştirme, tek bir ağacın varyansını önemli ölçüde azaltır, genellemeyi iyileştirir.
- İyi budanmış tek ağaçlar bile rastgele ormanlar veya gradyan artırma gibi topluluk yöntemlerinden daha az doğrudur.
- Ağaçlar kararsızdır: verilerdeki küçük bir değişiklik çok farklı bir ağaç yapısına yol açabilir.
- Çapraz doğrulama yoluyla optimal alfa araması, basit durdurma kurallarına göre hesaplama ek yükü ekler.
- Açgözlü özyinelemeli bölme, budamadan sonra bile küresel olarak optimal bir ağacı garanti etmez.
SSS
Maliyet-karmaşıklık budaması nedir ve alfa nasıl çalışır?
Alfa (karmaşıklık parametresi), ağaçtaki her ek yaprağı cezalandırır. Alfa=0 ayarlamak tam budanmamış ağacı döndürür; daha büyük alfa değerleri daha fazla yaprak kaldırır. En iyi alfa, bir dizi değer için modeli uydurarak ve çapraz doğrulanan hatası en düşük olanı seçerek bulunur.
Düzenlileştirilmiş bir karar ağacı rastgele bir ormanla aynı mıdır?
Hayır. Düzenlileştirilmiş bir karar ağacı hala tek bir ağaçtır — sadece aşırı uydurmayı önlemek için kısıtlanmıştır. Rastgele bir orman, çizme örnekleri üzerinde birçok ağaç büyütür ve yorumlanabilirlik pahasına çok daha düşük varyans elde eden tahminlerini ortalar.
Hangi düzenlileştirme yaklaşımıyla başlamalıyım?
Ayarlaması hızlı oldukları için max_depth (3-5 deneyin) ve min_samples_leaf (5-20 deneyin) ile başlayın. Daha sonra daha prensipli bir sonuç için çapraz doğrulanan alfa araması yoluyla maliyet-karmaşıklık budamasını ekleyin.
Düzenlileştirme bir karar ağacına ne zaman yardımcı olmaz?
Gerçek karar sınırı gerçekten karmaşıksa ve veri kümesi büyükse, düzenlileştirme basitçe yetersiz uyduracaktır. Bu durumlarda, gradyan artırma veya rastgele ormanlar daha iyi seçeneklerdir.
Hem sınıflandırma hem de regresyon için bir ağacı düzenlileştirebilir miyim?
Evet. Maliyet-karmaşıklık budaması, aynı çapraz doğrulama prosedürü ile hem CART sınıflandırma ağaçlarına (Gini veya entropi safsızlığı kullanarak) hem de regresyon ağaçlarına (MSE kullanarak) uygulanır.
Kaynaklar
- Breiman, L., Friedman, J., Olshen, R., & Stone, C. (1984). Classification and Regression Trees. Wadsworth. ISBN: 978-0-412-04841-8
- Esposito, F., Malerba, D., & Semeraro, G. (1997). A comparative analysis of methods for pruning decision trees. IEEE Transactions on Pattern Analysis and Machine Intelligence, 19(5), 476–491. DOI: 10.1109/34.589207 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Decision Tree (Pruned and Constrained CART). ScholarGate. https://scholargate.app/tr/machine-learning/regularized-decision-tree
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- YükseltmeMakine öğrenmesi↔ karşılaştır
- Karar AğacıMakine öğrenmesi↔ karşılaştır
- Ekstra AğaçlarMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Doğrusal RegresyonMakine öğrenmesi↔ karşılaştır
- Regularized Random ForestMakine öğrenmesi↔ karşılaştır