AI Sözlük
RNN Nedir?
Recurrent Neural Network, zaman adımlarında parametre paylaşarak sıralı veri işler; LSTM/GRU türevleri unutma kapıları ekler.
Tanım
RNN’ler metin ve zaman serisinde klasikti. Uzun menzilde gradyan kaybolması sorun oldu; LSTM ve GRU kısmen çözdü. Transformer paralellik ve uzun bağda üstün gelince dil modellemede taht değişti. Yine de düşük kaynaklı sıralı görevlerde RNN türevleri görülebilir. “Eski” demek “işe yaramaz” demek değildir; problem seçer.
Teacher forcing RNN dil modellerinde de kullanılırdı.
Bidirectional RNN iki yönlü bağlam okur ama online üretimde kısıtlıdır.
Sık sorulanlar
LSTM nedir?
Kapılarla bellek hücresi yöneten RNN türevidir.
Neden Transformer geçildi?
Daha iyi paralellik, ölçek ve uzun menzil performansı.