Çekişmeli Eğitim
Adversarial Training (Robust Optimization for DL) · Ayrıca şöyle bilinir: Min-Max Robust Training, PGD Adversarial Training, Robust Empirical Risk Minimization, Hasımsal Eğitim
Çekişmeli eğitim, derin sinir ağları için sağlam bir optimizasyon prosedürüdür; burada model yalnızca temiz verilerle değil, eğitim sırasında oluşturulan en kötü durum pertürbasyonlu girdilerle de eğitilir. Madry ve ark. (2018) tarafından bir min-maks eyer noktası problemi olarak biçimlendirilen bu yöntem, her gradyan güncellemesinden önce sınırlı bir Lp pertürbasyon kümesi içinde güçlü çekişmeli örnekler üretmek için Projeksiyonlu Gradyan İnişi (PGD) kullanır ve ağı bu tür pertürbasyonlar altında kararlı karar sınırları öğrenmeye zorlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Girdilerin kasıtlı olarak manipüle edilebileceği güvenlik açısından hassas ortamlarda modeller dağıtılırken, örneğin kötü amaçlı yazılım tespiti, fiziksel pertürbasyonlar altında yüz tanıma veya otonom sürüş algısı gibi durumlarda çekişmeli eğitimi kullanın. Beyaz kutu tehdit modelini ve sabit bir pertürbasyon bütçesi epsilon'u varsayar. Yöntem, hesaplama kaynaklarının ciddi şekilde kısıtlı olduğu durumlarda uygun değildir—PGD-AT, dönem başına standart eğitime göre yaklaşık 7-20 kat daha fazla hesaplama gerektirir. Resmi garantiler gerektiğinde sertifikalı savunmalar veya rastgele yumuşatma gibi alternatifleri göz önünde bulundurun.
Güçlü yönler & sınırlılıklar
- Belirtilen tehdit modeli altında geniş bir gradyan tabanlı saldırı sınıfına karşı güçlü ampirik sağlamlık sağlar
- İlkeli bir min-maks formülasyonuna dayanan savunmayı, en kötü durum performansı için doğrudan optimize eder
- Model yapısında değişiklik gerektirmeyen, herhangi bir farklılaştırılabilir mimari ve kayıp fonksiyonu ile uyumludur
- Çekişmeli ML literatüründeki sağlamlık kıyaslamalarını değerlendirmek için fiili temel oluşturur
- Her gradyan güncellemesinde her adımda iç PGD optimizasyonunun çok adımlı olması nedeniyle eğitim maliyetini önemli ölçüde artırır
- Genellikle standart eğitime kıyasla temiz doğruluğu azaltır, bu da bir sağlamlık-doğruluk değiş tokuşunu yansıtır
- Sağlamlık tipik olarak eğitim sırasında kullanılan tehdit modeliyle sınırlıdır; normlar (L∞ veya L2) arasındaki transfer edilebilirlik kusurludur
- Resmi sertifikalı garantiler sağlamaz; yeterince güçlü veya sınırsız bir saldırgan hala başarılı olabilir
SSS
FGSM eğitimi ile PGD çekişmeli eğitimi arasındaki fark nedir?
FGSM (Hızlı Gradyan İşaret Yöntemi) eğitimi, çekişmeli örnekler üretmek için tek bir gradyan adımı kullanır, bu hızlı ama zayıftır. Madry ve ark., FGSM eğitiminin gradyan maskelemesine yol açtığını göstermiştir—çok adımlı saldırılara karşı çöken bir sağlamlık yanılsaması. PGD eğitimi, daha güçlü çekişmeli örnekler bulmak için birden çok yinelemeli adım kullanır ve daha yüksek hesaplama maliyeti karşılığında gerçek ve daha aktarılabilir sağlamlık üretir.
Çekişmeli eğitim sağlamlığı garanti eder mi?
Hayır. Çekişmeli eğitim, belirtilen tehdit modeli altındaki saldırılara karşı güçlü ampirik sağlamlık sağlar ancak resmi sertifikalı garantiler sunmaz. Varsayılan bütçe veya norm dışı çalışan yeterince güçlü bir saldırgan hala çekişmeli girdiler bulabilir. Sertifikalı sağlamlık gerektiğinde rastgele yumuşatma veya aralık sınırı yayılımı gibi yöntemler gereklidir.
Pertürbasyon bütçesi epsilon nasıl seçilmelidir?
Epsilon, dağıtım bağlamındaki gerçekçi tehdit seviyesini yansıtmalıdır. L∞ ile CIFAR-10 için epsilon=8/255 yaygın bir kıyaslama geleneğidir. Çok küçük bir epsilon ihmal edilebilir sağlamlık sağlarken; çok büyük bir epsilon ciddi temiz doğruluk düşüşüne neden olur ve eğitim problemini çözülemez hale getirebilir. Seçim, seçilen bütçede hem temiz doğruluğu hem de sağlamlığı ölçerek doğrulanmalıdır.
Kaynaklar
- Madry, A., Makelov, A., Schmidt, L., Tsipras, D., & Vladu, A. (2018). Towards deep learning models resistant to adversarial attacks. International Conference on Learning Representations (ICLR). link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Adversarial Training (Robust Optimization for DL). ScholarGate. https://scholargate.app/tr/deep-learning/adversarial-training
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Veri Artırma (Data Augmentation)Derin öğrenme↔ karşılaştır
- Üretken Çekişmeli AğDerin öğrenme↔ karşılaştır
- Dağılım Dışı TespitMakine öğrenmesi↔ karşılaştır