AI Sözlük
Temperature Nedir?
Temperature, softmax dağılımını sivrileştiren veya yumuşatan bir ayardır; yaratıcılık sihri değil, olasılık entropisinin düğmesidir.
Tanım
Temperature (sıcaklık), dil modelinin üretim sırasında token olasılıklarını nasıl kullanacağını belirleyen bir parametredir. Matematiksel olarak logit’ler temperature ile bölünür; değer düştükçe dağılım sivrileşir ve model en olası token’lara yapışır. Değer yükseldikçe kuyruk token’lar da seçilebilir hale gelir; çeşitlilik artar, saçma veya tutarsız çıktı riski de artar. “Yaratıcılık kaydırıcısı” diye pazarlansa da aslında modelin ağırlıklarını değiştirmez; yalnızca örnekleme davranışını değiştirir. Kod, JSON ve faktüel işlerde düşük temperature; beyin fırtınası ve çeşitlilik isteyen işlerde daha yüksek temperature denenebilir. Top-p ve top-k ile birlikte ayarlanmalıdır.
Temperature=0 bile donanım ve paralellik nedeniyle her zaman bit-bit aynı çıktıyı garanti etmeyebilir. Deterministik ihtiyaçlarda ek kısıtlar gerekir.
Aynı prompt’u farklı temperature değerleriyle A/B test etmek, ürün sesini bulmanın pratik yoludur. Tek evrensel “en iyi T” yoktur.
Sık sorulanlar
Temperature 0 ne demek?
Mümkün olduğunca en yüksek olasılıklı token’a yakın seçim demektir; daha belirlenimci ve tekrarlanabilir çıktı eğilimi artar.
Yüksek temperature her zaman yaratıcı mı?
Daha çeşitli olur; kaliteli yaratıcılık garantisi değildir. Aşırı yüksek T dağınıklık üretebilir.