Dropout
Dropout, eğitim sırasında nöronların rastgele belirli bir olasılıkla devre dışı bırakıldığı, aşırı uyumu önleyen düzenlileştirme tekniğidir.
Duz Turkce Aciklama
Dropout, eğitim sırasında her adımda ağdaki nöronların belirli bir yüzdesini rastgele 'kapatır'. Bu sayede ağ belirli nöronlara aşırı bağımlı olmaz ve her nöron bağımsız olarak yararlı özellikler öğrenmeye zorlanır. Tahmin aşamasında tüm nöronlar aktif olur ancak ağırlıklar seyreltme oranına göre ölçeklendirilir. Dropout, modern derin öğrenmenin temel düzenlileştirme teknikleri arasındadır.
Nerede Kullanilir?
Derin öğrenme modellerinin eğitimi ve aşırı uyum önlemede neredeyse her mimaride kullanılan bir tekniktir.
Ornek
Bir görüntü sınıflandırma modeli, yüzde elli dropout oranıyla eğitildikten sonra test setinde dropout olmaksızın eğitilmiş modelden yüzde sekiz daha yüksek doğruluk elde etti.