Kısmi En Küçük Kareler Regresyonu
Kısmi en küçük kareler regresyonu, açıklayıcı değişkenlerden, yanıtlarla yüksek kovaryansa sahip az sayıda gizli bileşen oluşturarak, açıklayıcı değişkenlerin çok sayıda ve çoklu doğrusal olduğu durumlarda tahmin yapmayı mümkün kılar.
Tanım
Kısmi en küçük kareler regresyonu, açıklayıcı değişkenlerin doğrusal kombinasyonları olarak, yanıtlarla olan kovaryanslarını maksimize etmek üzere seçilen ortogonal gizli bileşenleri çıkaran ve yanıtları bu bileşenler üzerine regresyon yapan bir yöntemdir.
Kapsam
Bu konu, açıklayıcı ve yanıt blokları arasındaki kovaryansı maksimize ederek gizli bileşenlerin oluşturulmasını, temel bileşen regresyonu ve sıradan en küçük kareler ile karşılaştırmasını, çok sayıda ilişkili veya yüksek boyutlu açıklayıcı değişkenin ele alınmasını, çapraz doğrulama ile bileşen sayısının seçimini ve yöntemin kemometrideki önemli rolünü kapsamaktadır.
Temel sorular
- Çok sayıda yüksek oranda ilişkili açıklayıcı değişken olduğunda yanıtlar nasıl tahmin edilebilir?
- Kovaryans tabanlı bileşen çıkarımı, varyans tabanlı temel bileşenlerden nasıl farklılık gösterir?
- Kaç tane gizli bileşen korunmalıdır?
- Bu yöntem kemometri için neden merkezi bir öneme sahiptir?
Temel kuramlar
- Kovaryansı maksimize eden bileşenler
- Maksimal açıklayıcı değişken varyansına sahip bileşenleri çıkaran temel bileşen regresyonundan farklı olarak, kısmi en küçük kareler, yanıtlarla maksimal kovaryansa sahip bileşenleri çıkararak indirgemeyi tahmine yönlendirir.
- Gizli yapılar üzerine regresyon
- Yanıtları orijinal açıklayıcı değişkenler yerine az sayıda çıkarılmış gizli bileşenler üzerine regresyon yaparak, yöntem açıklayıcı değişkenler çoklu doğrusal olduğunda veya gözlem sayısından fazla olduğunda tahmini stabilize eder.
Klinik önem
Kısmi en küçük kareler regresyonu, kemometrinin temel aracı olup, çok sayıda ilişkili açıklayıcı değişken ve az sayıda örneklem bulunan, sıradan en küçük kareler yönteminin kararsız olduğu spektroskopi, genomik ve benzeri alanlarda yaygın olarak kullanılmaktadır.
Tarihçe
Kısmi en küçük kareler, Herman Wold'un iteratif tahmin yöntemlerinden köken almış ve Svante Wold ile meslektaşları tarafından kemometri için bir regresyon aracına dönüştürülmüştür; yüksek boyutlu, çoklu doğrusal spektral verilerin onu özellikle değerli kıldığı alanlarda kullanılmaktadır.
Tartışmalar
- Gizli bileşenlerin yorumlanması
- Gizli bileşenler, tüm açıklayıcı değişkenlerin kombinasyonları olup yorumlanması zor olabilir; yüksek boyutlu tahmin için kısmi en küçük kareler ile cezalandırılmış regresyon yöntemlerinin göreceli üstünlükleri tartışılmaktadır.
Öne çıkan isimler
- Herman Wold
- Svante Wold
İlgili konular
Temel eserler
- hastie2009
- wold2001
- johnson2007
Sıkça sorulan sorular
- PLS, temel bileşen regresyonundan nasıl farklılaşır?
- Temel bileşen regresyonu, yalnızca açıklayıcı değişken varyansını açıklayan bileşenleri seçerken, kısmi en küçük kareler, yanıtlarla yüksek kovaryansa sahip bileşenleri de seçer ve genellikle daha az bileşenle daha iyi tahmin sağlar.
- PLS özellikle ne zaman kullanışlıdır?
- Açıklayıcı değişkenlerin yüksek oranda çoklu doğrusal olduğu veya gözlem sayısından çok daha fazla olduğu, spektroskopik ve genomik verilerde olduğu gibi, sıradan en küçük kareler yönteminin güvenilir bir şekilde uygulanamadığı durumlarda kullanışlıdır.