AI Sözlük
RAG Nedir?
RAG, dil modelinin cevabını yalnızca ezberlediği ağırlıklara bırakmaz; önce bir bilgi deposundan ilgili parçaları bulur (retrieval), sonra bu parçalarla birlikte metin üretir (generation).
Tanım
RAG, İngilizce “Retrieval-Augmented Generation” ifadesinin kısaltmasıdır ve Türkçede sıkça “getirme ile güçlendirilmiş üretim” diye açıklanır. Klasik bir sohbet modeline soru sorduğunuzda model, eğitim sırasında öğrendiği istatistiksel kalıplarla cevap üretir; bu bilgi eski veya eksik olabilir. RAG mimarisinde sistem önce soruya uygun belgeleri, sayfaları veya kayıtları bir vektör veritabanı ya da arama motorundan bulur. Bulunan metin parçaları (chunk) prompt’a eklenir; model de cevabını bu kanıtlara dayandırarak yazar. Böylece şirket içi kılavuzlar, ürün dökümanları ve güncel haberler modele “yeniden eğitmeden” bağlanabilir. RAG, halüsinasyonu sihirle bitirmez ama kaynağa dayalı cevap üretme şansını artırır.
İyi bir RAG boru hattı yalnızca “embedding atıp aramak” değildir. Chunk boyutu, örtüşme, yeniden sıralama (rerank), alıntı zorunluluğu ve “kaynak yoksa bilmiyorum de” politikası kaliteyi belirler. Kötü chunk’lar yanlış belgeyi getirir; model de kendinden emin ama yanlış cevap yazar.
Kurumsal uygulamada RAG sıkça fine-tuning ile karıştırılır. Fine-tuning modelin üslubunu veya görev formatını değiştirir; RAG ise güncel ve özel bilgiyi erişim yoluyla ekler. Birçok üretim sistemi ikisini birleştirir.
Sık sorulanlar
RAG fine-tuning yerine geçer mi?
Bilgi sık değişiyorsa veya belge tabanlıysa RAG genelde daha uygundur. Üslup, format veya özel yetenek için fine-tuning hâlâ gerekebilir.
RAG halüsinasyonu tamamen önler mi?
Hayır. Yanlış veya eksik retrieval, modelin yine uydurmasına yol açabilir. Kaynak zorunluluğu ve doğrulama şarttır.
Vektör veritabanı şart mı?
Sık kullanılır ama zorunlu değildir. Anahtar kelime araması (BM25) veya hibrit arama da retrieval katmanı olabilir.