Adalet Odaklı Makine Öğrenmesi
Fairness-Aware Machine Learning · Ayrıca şöyle bilinir: Algorithmic Fairness, Fair Classification, Bias-Mitigating ML, Adil Makine Öğrenmesi
Adalet Odaklı Makine Öğrenmesi, tahmin modellerini, hata oranlarının veya sonuçlarının ırk, cinsiyet veya yaş gibi korunan demografik gruplar arasında adil olmasını sağlayacak şekilde eğiten, kısıtlayan veya sonradan işleyen bir teknik ailesidir. Eşitlenmiş olasılıklar ve fırsat eşitliği çerçevesi, Moritz Hardt, Eric Price ve Nati Srebro tarafından 2016 tarihli dönüm noktası niteliğindeki NeurIPS makalelerinde biçimlendirilmiş ve ayrımcı olmayan sınıflandırıcılar için titiz istatistiksel kriterler oluşturmuştur.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Bir tahmin modelinin kararları yasal veya etik olarak korunan gruplara ait bireyleri etkilediğinde — kredi puanlaması, işe alım, tıbbi triyaj veya suç işleme olasılığı tahmini gibi — Adalet Odaklı ML uygulayın. Yaklaşım, hassas bir özniteliğin çıkarım zamanında bilindiğini (veya sonradan işleme için çıkarılabileceğini) ve adalet kriterinin paydaşlar tarafından kabul edilebileceğini varsayar. Hassas özniteliğin mevcut olmadığı, birden fazla rakip adalet kriterinin çeliştiği veya eğitim verilerinin grup düzeyindeki hata oranlarını güvenilir bir şekilde tahmin etmek için çok küçük olduğu durumlarda daha az uygundur. Alternatifler arasında işlem içi kısıtlı optimizasyon veya ön işlem yeniden ağırlıklandırma yöntemleri bulunur.
Güçlü yönler & sınırlılıklar
- İstatistiksel olarak titiz, nicel adalet garantileri sağlar ve adlandırılmış bir kritere bağlıdır.
- Sonradan işleme yaklaşımı modelden bağımsızdır ve herhangi bir mevcut sınıflandırıcıya yeniden eğitim olmadan uygulanabilir.
- Doğruluk-adalet takası şeffaftır ve epsilon tolerans parametresi aracılığıyla ayarlanabilir.
- Kriter seçimini yönlendiren resmi imkansızlık sonuçlarıyla zengin bir teorik literatür tarafından desteklenir.
- Birden fazla adalet kriteri (eşitlenmiş olasılıklar, kalibrasyon, demografik eşitlik) genel olarak birbirine uyumsuzdur, bu da uygulayıcıları birini seçmeye zorlar.
- Sonradan işleme, tahmin zamanında hassas özniteliğin bilinmesini gerektirir, bu da yasal olarak kısıtlanmış veya pratik olarak mevcut olmayabilir.
- Grup düzeyinde adalet, bireysel adaleti garanti etmez; farklı gruplardan iki benzer birey hala farklı muamele görebilir.
- Küçük korunan alt gruplar üzerindeki kısıtlamaları zorlamak, genel doğruluğu önemli ölçüde düşürebilir ve etik ve iş gerilimleri yaratabilir.
SSS
Bir model aynı anda hem eşitlenmiş olasılıkları hem de kalibrasyonu sağlayabilir mi?
Genellikle hayır. Chouldechova (2017), bu iki kriterin gruplar arasında temel oranlar farklı olduğunda uyumsuz olduğunu kanıtladı. Uygulayıcılar, etik ve yasal bağlamlarıyla hangi kriterin uyumlu olduğunu seçmelidir; gruplar arasında öncelik aynı olmadıkça hiçbir tek model aynı anda her ikisini de karşılayamaz.
Hassas özniteliği özellik kümesinden çıkarmak modeli adil hale getirir mi?
Nadiren. Diğer özellikler (posta kodu, soyadı, tarama geçmişi) hassas öznitelik için vekil görevi görebilir ve modelin demografik bilgileri dolaylı olarak kurtarmasına ve kullanmasına izin verebilir. Bazen yedekli kodlamalar olarak adlandırılan bu olgu, adaletin öznitelik çıkarılmasından ziyade açıkça uygulanması gerektiği anlamına gelir.
Sonradan işleme mi yoksa işlem içi mi daha iyi yaklaşımdır?
Bağlama bağlıdır. Sonradan işleme (Hardt ve diğerleri 2016), modelden bağımsızdır ve denetlenmesi kolaydır, bu da temel model yeniden eğitilemediğinde cazip hale gelir. İşlem içi yöntemler, eğitim sırasında adalet kısıtlamalarını entegre eder ve daha iyi doğruluk-adalet takasları elde edebilir, ancak eğitim işlem hattına erişim gerektirir ve modele özgüdür.
Kaynaklar
- Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. Advances in Neural Information Processing Systems, 29. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Fairness-Aware Machine Learning. ScholarGate. https://scholargate.app/tr/machine-learning/fairness-aware-ml
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Model KalibrasyonuMakine öğrenmesi↔ karşılaştır