AI Sözlük
Backpropagation Nedir?
Geri yayılım, kayıptan başlayarak katman katman gradyan üretir; milyarlarca parametrenin verimli güncellenmesini sağlar.
Tanım
Backpropagation (geri yayılım), otomatik türev almanın sinir ağlarına uygulanmış halidir. İleri geçişte tahmin ve kayıp hesaplanır; geri geçişte zincir kuralı ile her ağırlığın kayba katkısı bulunur. Modern framework’ler autograd ile bunu otomatikleştirir. Activation checkpointing bellek için ara değerleri silip yeniden hesaplar. Vanishing/exploding gradient derinlik ve init ile yönetilir. Backprop olmadan modern derin öğrenme pratik olmazdı.
Eğitim = ileri + geri + optimizasyon adımı.
Inference’da geri yayılım yoktur; yalnızca ileri geçiş vardır.
Sık sorulanlar
Autograd nedir?
Hesap grafiğinden otomatik gradyan üreten motor.
Zincir kuralı neden önemli?
Bileşik fonksiyonların türevini katman katman çarparak yayar.