Yapay Zeka İçin Ekran Kartı Seçimi: Neden FPS Değil, VRAM ve Bant Genişliği Konuşmalıyız

Oyun benchmarklarına bakarak AI kartı seçmek en pahalı hatadır. LLM çıkarımını hızlandıran gerçek faktörleri — bellek kapasitesi, bant genişliği ve yazılım desteği — anlatıyoruz.

Yapay zeka için ekran kartı seçim rehberi: VRAM kapasitesi ve bellek bant genişliği kavramları

Oyunlarda 120 FPS alan bir ekran kartı, yapay zeka işlerinde beklediğinizden çok daha yavaş olabilir — ve tam tersi de doğrudur. Yerel LLM çalıştırmanın donanım mantığı, rasterizasyon mantığından temelden farklıdır. Mağaza vitrininde “en yeni, en hızlı” görünen kart, AI kullanıcısının tablosunda orta sıralara düşebilir. Bu rehberde GPU seçimini oyun dünyasının ölçütlerinden koparıp sinir ağı hesabının gerçek değişkenlerine göre yeniden kuruyoruz: kapasite, bant genişliği, yazılım ekosistemi ve güç.

LLM çıkarımı aslında bir bellek problemidir

Bir dil modeli her yeni token üretirken, modelin tüm ağırlıklarını bellekten okumak zorundadır. 8B parametreli bir modelin 4-bit kuantizasyonu yaklaşık 4,5 GB yer kaplar ve her token için o 4,5 GB’ın tamamı bir kez daha okunur. Saniyede 50 token üretmek, saniyede ~225 GB veri okumak demektir. Bu sayı işlemci gücüyle değil, bellek bant genişliğiyle doğrudan orantılıdır. İşte bu yüzden:

  • 936 GB/s bant genişliğine sahip RTX 3090, theoretically daha “yeni” olan ama 448 GB/s taşıyan kartlardan çıkarımda iki kat hızlıdır.
  • PCIe 5.0 gibi arayüz yenilikleri çıkarım hızını neredeyse hiç etkilemez; çünkü veri bir kez kartta, sürekli kartın kendi belleğinde döner.
  • Çekirdek sayısı ve TFLOPS değerleri üretim fazında ikincil kalır; ancak prompt işleme (uzun girdiyi okuma) fazında yeniden önem kazanır.

Kapasite eşiği: model kartta mı, RAM’de mi?

İkinci ve daha belirleyici faktör VRAM hacmidir. Model + bağlam önbelleği kartın belleğine sığdığı sürece yukarıdaki bant genişliği hesabı geçerlidir; sığmadığı anda katmanlar sistem RAM’ine taşınır ve hız 20–50 kat düşer. 100 token/sn üreten kurulum, tek bir katman RAM’e kaydığında 3 token/sn’e düşebilir. Bu nedenle AI kartı seçiminin ilk sorusu şudur: hedeflediğiniz model sınıfı hangi kuantizasyonla kaç GB yer kaplıyor?

Kaba kural (GGUF Q4 kuantizasyon için): gerekli GB ≈ parametre sayısı × 0,55 + bağlam önbelleği için 1–6 GB pay. 7B model ~5 GB, 14B ~9 GB, 32B ~19 GB, 70B ~40 GB. Bağlam penceresi büyüdükçe KV önbelleği büyür; 32K bağlam, model boyutuna göre ekstra 2–8 GB isteyebilir.

Yazılım desteği: unutulan ama en ağır kriter

Donanımın ham spec’i aynı olsa bile, yazılım yığını (llama.cpp, PyTorch, vLLM, Stable Diffusion back-end’leri) kartlara eşit davranmaz:

  • NVIDIA/CUDA: Tüm araçların birincil hedefi. En az hata, en çok kılavuz, en hızlı güncelleme.
  • AMD/ROCm: 2026 itibarıyla üretim kalitesinde; RX 7000/9000 serileri llama.cpp ve PyTorch altında gayet sağlıklı çalışır. Ancak sürüm uyumu ve kurulum sürtünmesi hâlâ NVIDIA’dan fazladır.
  • Intel/oneAPI-SYCL: Arc kartlarında destek iyiye gidiyor; B580 gibi bütçe kartları 7B–13B sınıfında pratik hızlar veriyor. Ekosistem yine de en genç olan.

Bir kartın “sayfada yazan” performansı ile “kurdunuzca çalışan” performansı arasındaki fark, yazılım desteğiyle kapanır veya açılır.

Güç, ısı ve gürültü: ev kullanıcının gerçek maliyeti

AI istasyonu 7/24 çalışmaz ama çalıştığı saatlerde tam yüktedir. 350–575 W çeken bir kart, yoğun kullanımda aylık 150–500 TL elektrik faturası açabilir. Ayrıca yüksek TDP, kasa havalandırması, PSU kalitesi (80+ Gold tavsiye edilir) ve gürültü yönetimi demektir. Bütçe hesabına kartın üç yıllık elektrik maliyetini de eklemek, “eski ama güçlü” kartlarla “yeni ve verimli” kartlar arasındaki dengeyi değiştirebilir.

Karar tablosu: hangi bütçede ne alınır

Bütçe profiliÖnerilen kartGerekçe
En düşük giriş (~10–15 bin TL)Intel Arc B580 (12 GB)Bant genişliğinin 456 GB/s’le 12 GB VRAM; 7B–13B sınıfı için ideal
Orta segment (~20–25 bin TL)İkinci el RTX 3090 (24 GB)32B sınıfına erişimin en ucuz yolu
Yeni kart, dengeli (~35–45 bin TL)RTX 5060 Ti 16 GB / RX 9070 XT (16 GB)14B–27B sınıfı, düşük güç, güncel mimari
Üst segment (~50 bin TL+)RTX 5070 Ti / ikinci el 409032B Q4 rahat; oyun tarafı da güçlü
Sınır tanımayanRTX 5090 (32 GB)70B ve video üretimi dahil her şey

Sonuç: doğru soruyu sorun

Ekran kartı seçimi oyun dünyasında “hangi FPS’leri istiyorum” sorusudur; AI dünyasında ise “hangi model sınıfını kartta tutmak istiyorum ve bunun için ayda ne kadar elektrik öderim” sorusudur. Bu soruya net cevap veren kullanıcı, vitrindeki en pahalı kartı değil, kendi tablosundaki en verimli kartı seçer. VRAM’i ölçü, bant genişliğini hız, yazılım desteğini sigorta olarak görün — AI donanımının üç sacayağı budur.

Sık sorulan sorular

Yapay zeka için ekran kartında en önemli özellik nedir?

VRAM kapasitesi birincil kriterdir: model + bağlam önbelleği kartın belleğine sığmadığı anda RAM'e taşma başlar ve hız 20–50 kat düşer. İkinci kriter bant genişliği, üçüncüsü yazılım ekosistemidir.

LLM çıkarım hızı neden bant genişliğine bağlıdır?

Her yeni token üretiminde modelin tüm ağırlıkları bellekten bir kez okunur; örneğin 8B Q4 model için saniyede ~225 GB okuma demektir. Bu yüzden token hızı çekirdek gücünden çok bellek bant genişliğiyle sınırlanır.

AMD veya Intel kartlarda yerel AI çalıştırmak sorunlu mu?

2026 itibarıyla hayır: ROCm (AMD) ve SYCL/oneAPI (Intel) desteği üretim kalitesine ulaştı, llama.cpp ve PyTorch bu kartlarda sağlıklı çalışıyor. Verilen taviz, kurulum sürtünmesi ve niş araçlarda ekosistem genişliğidir.

WebTuring AtlasBu haberin arka planı

Konunun teknik geçmişi ve bağlamı ansiklopedimizde:

Tüm WebTuring Atlas ansiklopedisi →

Donanım kategorisinden