Kendi Sunucuda Yapay Zeka Eğitmek: OpenAI ve Google’a Alternatif mi, Tuzak mı?

“Kendi ChatGPT’imizi yazalım” cümlesi 2023’te cesur, 2026’da tehlikeli derecede belirsizdir. Çünkü “yazmak” üç çok farklı işi aynı kelimede birleştirir: frontier model eğitmek, açık modeli fine-tune etmek, kendi sunucuda yalnızca çıkarım (inference) çalıştırmak. OpenAI, Google ve diğer lab’lara “meydan okumak” ile “verimizi onların API’sine vermemek” aynı strateji değildir. Birincisi neredeyse kimseye uymaz; ikincisi birçok kuruma uyar.

Üç katman: eğitim, uyarlama, çalıştırma

Frontier eğitim — trilyonlarca token, binlerce hızlandırıcı, aylar, devasa enerji. Bu ligde oyuncular lab’lar ve birkaç devlet/hiperscaler programıdır. “Meydan okumak” burada pazarlama cümlesidir.

Uyarlama — Llama, Mistral, Qwen, Gemma gibi açık (veya açık ağırlıklı) modelleri kendi verinizle fine-tune / LoRA / devam eğitimi. Maliyet hâlâ yüksektir ama frontier’ın onda biri, yüzde biri bandına inebilir. Amaç genel zekâ değil, sizin diliniz, belgeleriniz, iş kurallarınız.

Private inference — modeli siz eğitmezsiniz; sadece kendi VPC veya on-prem GPU’nuzda çalıştırırsınız. Veri yerleşimi ve gecikme için en sık seçilen yoldur. Birçok “kendi sunucumuzda AI” projesi aslında budur.

Karışıklık, yönetim sunumunda 1. ile 3.nin aynı slaytta birleşmesinden doğar. Bütçe patladığında da genelde bu karışıklık suçludur.

Ne zaman kendi altyapı mantıklı?

On-prem veya dedicated cluster şu koşullarda rasyonelleşir:

1. Regülasyon / veri yerleşimi — sağlık, finans, kamu, savunma
2. Hava-gap — internet çıkışı olmayan ortam
3. Sürekli yüksek hacim — API faturası yıllık GPU amortismanını aşıyor
4. Özel gecikme ve kontrol — ajan, fabrika, edge
5. Model IP’si — ince ayar ağırlıklarının evde kalması

Tersi durumlarda (düzensiz kullanım, keşif, genel sohbet, hızlı prototip) API ve managed bulut neredeyse her zaman daha ucuz ve hızlıdır. 2026’da hiperscaler capex’inin yüzlerce milyar dolara çıkması, sizin “ucuz ikinci el GPU” planınızı bozmaz; ama enerji, soğutma ve yetenek faturasını unutturmaz. Boş GPU, en pahalı ofis mobilyasıdır.

Maliyet üçgeni: $ / yetenek / risk

API tarafında ödersiniz: token, rate limit, vendor bağımlılığı, veri işleme şartları. Kazanırsınız: güncel model, ölçek, MLOps’suz hız.

Kendi kümede ödersiniz: donanım, elektrik, soğutma, ağ, yedekleme, güvenlik, mühendis maaşı, yazılım yığını (orchestration, monitoring, checkpoint, eval). Kazanırsınız: kontrol, bazen birim maliyet (yüksek utilization’da), veri egemenliği.

Kritik metrik $/görev ve utilization’dır. Ayda birkaç milyon token için 8×H100 almak, araba almak için otoyol inşa etmeye benzer. Günde yüz milyonlarca token ve sıkı veri kuralı varsa tersi doğrudur: API sizi hem pahalı hem regüle eder.

Fine-tuning ile RAG ayrımı da bütçeyi kurtarır. Bilgi tabanı sık değişiyorsa RAG + iyi retrieval çoğu “eğitim” talebini karşılar. Stil, format, araç kullanımı, alan jargonunda kalıcı davranış için fine-tune daha uygundur. Üretim sistemlerinin çoğu ikisinin karışımıdır.

Yetenek ve operasyon: görünmeyen duvar

Donanım sipariş etmek, eğitim pipeline’ı kurmak demek değildir. Checkpoint bozulur, dağıtık eğitim senkron kaybeder, veri sızıntısı olur, eval seti çürür, model sürümü kaos yaratır. MLOps olmadan on-prem AI, laboratuvar oyuncağıdır. Ayrıca güvenlik: model ağırlıkları, prompt logları ve vektör veritabanı yeni bir “taç mücevher” setidir. Sızdırılan fine-tune, sızdırılan müşteri verisi kadar pahalı olabilir.

Pratik karar ağacı

• Genel asistan, düşük-orta hacim → API / managed
• Kurumsal bilgi + sohbet → RAG + gateway (+ ister private inference)
• Özel davranış / alan → fine-tune (mümkünse LoRA) + eval
• Sıkı yerleşim + yüksek sürekli yük → private inference, gerekirse kendi eğitim
• “OpenAI’yi ezelim” → bütçeyi ve ekibi iki kez say; sonra bir kez daha

Açık ağırlık ekosistemi 2026

Llama, Mistral, Qwen, Gemma ve benzeri aileler, “kendi modelimiz” hayalini frontier eğitiminden ayırdı. Kurumlar artık çoğu zaman sıfırdan tokenizer ve trilyon token eğitmiyor; iyi bir tabanı kendi verisiyle uyarlıyor. Bu, OpenAI/Google’a “meydan okuma”dan çok “seçici bağımsızlık”tır: genel yetenek için lab, özel bilgi ve kontrol için siz.

Araçlar: LoRA/QLoRA, preference tuning, distillation, quantization, vLLM/TensorRT-LLM tipi serving, eval setleri. Ekip bilmiyorsa donanım almayın; önce insan yatırın veya danışmanlık + managed private endpoint ile başlayın.

Hibrit mimari (çoğu kurumun gerçeği)

1. İnternet sohbeti ve genel yazım → kamu API (veri sınıflandırması ile)
2. Dahili bilgi asistanı → RAG + private veya VPC model
3. Yüksek hacimli batch (sınıflandırma, özet, çeviri) → kendi inference
4. Çok özel ajan davranışı → küçük fine-tune
5. Log, DLP, gateway → her katmanda

Bu hibrit, “her şeyi on-prem” fanatizminden ve “her şeyi API” tembelliğinden daha dayanıklıdır. Gateway olmadan hibrit kaos olur: her ekip ayrı anahtar, ayrı fatura, ayrı sızıntı.

Enerji ve sürdürülebilirlik notu

Kendi eğitim kümeniz, lab’ların yüzlerce megawatt kampüslerinin minyatürüdür. PUE, elektrik tarifesi, karbon raporlaması ve gürültü (jeneratör/soğutma) CFO ve tesis yönetimini ilgilendirir. “Yeşil AI” iddiası, boş GPU ile çelişir. Utilization düşükse hem para hem karbon boşa gider.

Karar matrisi özeti

Durum	Öneri
Keşif / düşük hacim	API
Regüle veri + orta hacim	Private inference + RAG
Yüksek sürekli hacim	Kendi serving, belki fine-tune
Araştırma lab’ı / ürün model satışı	Ciddi eğitim yatırımı (ayrı lig)

Meydan okuma retoriği yerine bu tabloyu kullanın. Board sunumunda “Google’ı yeneceğiz” yerine “$/görev ve risk böyle düşecek” deyin.

Sonuç

Kendi sunucuda yapay zekâ eğitmek, OpenAI ve Google’a romantik bir meydan okuma değil; iş yükü, veri ve birim ekonomi kararıdır. 2026’da olgun strateji çoğu kurumda “her şeyi biz eğitelim” değil, “doğru katmanda kontrol edelim”dir: frontier’ı API’den alın, bilginizi RAG ile bağlayın, davranışı ölçülü fine-tune ile sabitleyin, regüle veriyi private inference’da tutun. Meydan okuma, lab’ı yenmek değil; kendi faturanızı ve riskinizi yenmektir.