AI Sözlük
SFT (Supervised Fine-Tuning) Nedir?
SFT, soru-cevap veya talimat-yanıt çiftleriyle modelin davranışını denetimli kayıpla güncellemektir.
Tanım
Supervised Fine-Tuning, hizalama boru hattının ikinci ayağıdır. Pretrain model, yüksek kaliteli diyalog ve görev örnekleriyle “nasıl cevap vermeli”yi öğrenir. Veri az ama temiz olmalıdır. Aşırı epoch ezber ve unutma getirir. LoRA ile SFT yapmak maliyeti düşürür. SFT sonrası model hâlâ tercih optimizasyonu (RLHF/DPO) ile cilalanabilir.
Format tutarlılığı (JSON, markdown) SFT ile güçlenir.
Regresyon eval’i SFT’nin gizli maliyetidir.
Sık sorulanlar
SFT veri formatı?
Genelde mesaj rolleri ve ideal asistan cevabını içeren diyalog JSON’larıdır.
Ne kadar veri?
Göreve göre değişir; binlerce kaliteli örnek sık başlangıç noktasıdır.