Hendek, Kütüphanelerin İçinde Akıyor

Kale nasıl büyüdü

CUDA 2006’da duyurulduğunda satılan şey bir programlama arayüzüydü; yirmi yıl sonra satılan şey, o arayüzün içine birikmiş olan her şey: cuDNN, cuBLAS, NCCL, TensorRT ve bu katmanların üstüne yazılmış binlerce özel çekirdek.

Ekonomik ölçek, bu yazılım çekiminin gölgesi: Nvidia, 2026 mali yılını 215,9 milyar dolar gelirle kapattı; dördüncü çeyrekte veri merkezi geliri tek başına 62,3 milyar dolara ulaştı ve bir sonraki çeyrek için 78 milyar dolarlık beklenti açıkladı.

Yani kale, “başka çip çalışmaz” iddiası değil; “başka çip çalışır ama aynı performansı yeniden satın almak gerekir” gerçeğidir. Fark, pazarlık gücünü belirleyen şeydir.

Kilidi asıl tutan şey

Kilit noktası dil değil, emektir. İnce ayar yapılmış bir çekirdek, belirli bir bellek hiyerarşisinin varsayımlarını içerir: paylaşımlı bellek boyutu, komut boru hattı, toplama birimleri. Kaynak kodu taşınabilir olabilir; verim taşınamaz.

İkinci katman, kolektif iletişim: çok çipli eğitimde NCCL’nin rolü, tek çipe göre ayarlanmış çekirdeklerden daha zordur. Bağlantı topolojisi, zamanlama ve hata kurtarma davranışı, hızla ölçülen ama ağır sökülen bilgiyi üretir.

Üçüncüsü, sessiz katman: runbook’lar, profilleme alışkanlıkları, “bu sürümde şu kernel kırılır” bilgisi. Yazılı olmayan bu kısım, taşınma planlarında hiç görünmez ama maliyetin çoğunu o taşır.

Açık katman girişimleri

Triton, 2021’de OpenAI tarafından açık kaynak olarak yayımlandı ve GPU programlamayı Python seviyesine çekti: geliştirici donanım ayrıntısını yazmaz, derleyici hedef çipe göre üretir. PyTorch 2.0 ile gelen TorchInductor da bu hattın üstünden derlediği için, üst katman zaten CUDA’nın dışına çıkmaya başlamıştı.

AMD tarafı ROCm’u aynı kalıba oturtmaya çalışıyor: Triton’un ROCm arkası ve PyTorch uyum testleri, “yazılımı yeniden yazmadan donanım değiştirme” senaryosunun gerçek ama kırılgan olduğunu gösteriyor. Kırılganlığın kaynağı, test kapsamının genişliğinde değil, hedef donanımda hatanın görünür olmasında.

Yarıştığı katmanlar şöyle:

• Triton: kaynağı hedef çipe derleyen açık çekirdek üretimi
• ROCm: AMD donanımı için CUDA karşılığı yığın
• SYCL ve oneAPI: standart tabanlı, çok satıcılı hedef
• XLA ve OpenXLA: derleme grafını donanımdan ayıran yol

Gerçek geçiş maliyeti

Taşımanın faturası üç kalede toplanır: doğrulama, performans, fırsat maliyeti. Sayısal farklar sessizdir; aynı model ikinci dereceden farklı sonuç verdiğinde, mesaiyi eğitim hattı değil, doğrulama ekibi yapar.

Performans tarafında fark çoğu zaman ilk hafta değil, üçüncü ay bulunur: varsayılan ayarlar “çalışır”, ince ayarlı rakam ise uzman ister.

En pahalı kalem takvimdir: taşınma sırasında yeni mimari kuşağı çıktığında aynı işi iki kez yapmak gerekir; karar bu yüzden hattın ortasında değil, yeni kuşağın eşiğinde alınır.

Kaleyi eriten kuvvetler

Çıkarım çağı, hendeği sığlaştırıyor: bellek bant genişliğinin belirleyici olduğu iş yüklerinde, egzotik çekirdek ustalığının payı düşüyor; standart dikkat kalıpları ve sabit iş akışları her satıcıda benzer görünüyor.

İkinci kuvvet, hiperscale gerçekliği: kendi silikonunu yapan şirketler, CUDA’yı değil, kendi derleme hattını merkeze koyuyor. Bu, kaleyi yıkmasa da kapısının sayısını artırıyor.

Üçüncüsü, Nvidia’nın kendi savunma hattının yer değiştirmesi: asıl ayrım artık yazılımdan çok raf, bağlantı ve güç paketinde. Kale hâlâ güçlü; ama sur, silikonun üstünden sistemin dışına taşınıyor.

Sık sorulan sorular

Kaynakça

1. CUDA resmî arşivi ve ekosistem belgeleriNvidia
2. Triton: açık kaynak GPU programlamaOpenAI
3. Dördüncü çeyrek ve mali 2026 sonuçlarıNvidia Newsroom
4. ROCm üzerinde Triton ile çekirdek geliştirmeAMD ROCm Docs
5. CUDA hendeği ve AMD’nin yazılım açığıSemiAnalysis