Bayes Aktif Öğrenme
Bayesian Active Learning (Query-by-Committee and BALD) · Ayrıca şöyle bilinir: BAL, Bayesian optimal experimental design for ML, BALD (Bayesian Active Learning by Disagreement), probabilistic active learning
Bayes Aktif Öğrenme (BAL), belirsizliği en çok azaltacak etiketlenmemiş örnekleri belirlemek için olasılıksal bir modeli aktif sorgulama stratejisiyle birleştirir. BAL, rastgele veri etiketlemek yerine, etiketlemenin en büyük bilgi kazancını sağlayacağı noktalara bir oracle'ı (tipik olarak bir insan etiketleyici) yönlendirerek, etiket verimliliğini yüksek tutar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketlemenin pahalı veya yavaş olduğu (tıbbi görüntü annotasyonu, uzman incelemesi, laboratuvar deneyleri) ve büyük bir etiketlenmemiş veri havuzunuz ancak sıkı bir etiketleme bütçeniz olduğu durumlarda Bayes Aktif Öğrenme kullanın. Her oracle sorgusunun gerçek bir maliyeti olduğu bilimsel keşif ortamlarında (ilaç taraması, malzeme bilimi) parlar. Kaçının: etiketler ucuz ve bol olduğunda (pasif rastgele örnekleme yeterlidir); model sınıfı kalibre edilmiş belirsizliği temsil edemediğinde (Bayes işlem görmemiş standart sinir ağları); etiketlenmemiş havuz seçici sorgulamadan fayda sağlamak için çok küçük olduğunda; veya sorgu döngüsü bir oracle için duraklayamadığı için gerçek zamanlı annotasyon pratik olmadığında.
Güçlü yönler & sınırlılıklar
- Hedeflenen bir doğruluğa ulaşmak için gereken etiketlenmiş örnek sayısını önemli ölçüde azaltır.
- Yüksek riskli alanlarda değerli olan tahminlerin yanı sıra kalibre edilmiş belirsizlik tahminleri sağlar.
- İlkesel bilgi-teorik kazanım fonksiyonları (BALD, BatchBALD) keyfi sezgisel yöntemlerden kaçınır.
- Girdi uzayının fazlalık veya zaten emin olunan bölgelerini sorgulamaktan doğal olarak kaçınır.
- Çeşitli model sınıflarına uygulanabilir: Gauss süreçleri, Bayes sinir ağları ve yaklaşık Bayes yöntemleri (MC Dropout, derin topluluklar).
- Kalibre edilmiş belirsizlik üretmesi gereken model; yanlış belirtilmiş önsel dağılımlar veya aşırı güvenli yaklaşımlar sorgu kalitesini düşürür.
- Hesaplama açısından pahalıdır: sonuçsal çıkarım ve her turda tüm etiketlenmemiş adayların puanlanması, büyük havuzlar ve karmaşık modeller için yasaklayıcı olabilir.
- Çeşitlilik düzeltmesi olmadan yığın seçimi (örneğin, BatchBALD) fazlalık sorgulara yol açar.
- Rastgele örneklemeye göre performans avantajı, başlangıçtaki etiketli küme çok küçük olduğunda veya model sınıfı kötü seçildiğinde ortadan kalkabilir.
- Her sorgu turunda bir oracle'a erişim varsayar; kesintiye uğrayan veya gecikmiş annotasyon iş akışları döngüyü bozar.
SSS
Standart aktif öğrenme ile Bayes aktif öğrenme arasındaki fark nedir?
Standart aktif öğrenme, nokta tahminli bir modelden en az güvenli veya marj örneklemesi gibi sezgisel belirsizlik ölçümleri kullanır. Bayes aktif öğrenme, sorgulama stratejisini model parametreleri üzerindeki tam sonuçsal dağılıma dayandırır, ilkesel bilgi-teorik kazanım fonksiyonlarına ve indirgenemez belirsizliği öğrenilebilir belirsizlikten ayıran kalibre edilmiş belirsizliğe olanak tanır.
Derin sinir ağlarıyla Bayes aktif öğrenme kullanabilir miyim?
Evet, yaklaşık Bayes çıkarımı kullanarak. MC Dropout (Gal & Ghahramani, 2016), test zamanında dropout'u yaklaşık Bayes çıkarımı olarak ele alır ve pratik bir vekil olarak yaygın şekilde kullanılır. Derin topluluklar başka bir iyi kalibre edilmiş seçenektir. Varyasyonel çıkarım veya MCMC aracılığıyla tam Bayes sinir ağları daha doğrudur ancak hesaplama açısından yoğundur.
Tur başına kaç sorgu seçmeliyim?
Tekil nokta (açgözlü) seçimi teorik olarak optimaldir ancak yavaştır. Yığın seçimi (örneğin, BatchBALD), fazlalığı önleyen çeşitli bir yığın seçer ve paralel annotasyona olanak tanır. 5 ile 50 arasındaki yığın boyutları yaygındır; doğru boyut annotasyon verimi ve yeniden eğitim maliyetine bağlıdır.
Bayes aktif öğrenme her zaman rastgele etiketlemeden daha mı iyidir?
Her zaman değil. Etiketleme bütçesi veri kümesine göre çok büyük olduğunda veya model sınıfı kötü kalibre edildiğinde, rastgele örnekleme BAL ile eşleşebilir veya onu geçebilir. Fayda, iyi kalibre edilmiş bir model ve büyük bir etiketlenmemiş havuz ile düşük etiketli rejimde en belirgindir.
Hangi değerlendirme metriklerini kullanmalıyım?
Doğruluk, F1 veya AUC gibi öğrenme eğrilerini etiketlenmiş örnek sayısı karşısında çizin, BAL'ı rastgele temel örneklemeyle karşılaştırın. Belirsizlik tahminlerinin anlamlı olduğunu doğrulamak için beklenen kalibrasyon hatasını (ECE) da raporlayın. Birden çok bütçe kontrol noktasında değerlendirme yapmak, BAL'ın avantajının en büyük olduğu yerleri gösterir.
Kaynaklar
- Houlsby, N., Huszár, F., Ghahramani, Z., & Lengyel, M. (2011). Bayesian Active Learning for Classification and Preference Learning. arXiv preprint arXiv:1112.5745. link ↗
- Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning, 6(1), 1–114. Morgan & Claypool. DOI: 10.2200/S00429ED1V01Y201207AIM018 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bayesian Active Learning (Query-by-Committee and BALD). ScholarGate. https://scholargate.app/tr/machine-learning/bayesian-active-learning
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Aktif ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Bayesian Lojistik RegresyonBayesçi↔ karşılaştır
- Bayesçi OptimizasyonOptimizasyon↔ karşılaştır
- Az sayıda örnekle öğrenmeMakine öğrenmesi↔ karşılaştır
- Gauss SüreciMakine öğrenmesi↔ karşılaştır
- Yarı denetimli ÖğrenmeMakine öğrenmesi↔ karşılaştır