AI Sözlük
Bias (Önyargı) Nedir? — AI
Yapay zekâ önyargısı, model çıktılarının adaletsiz veya çarpık dağılım göstermesidir; çoğunlukla verideki ve süreçteki eşitsizlikleri yansıtır.
Tanım
Bias, istatistikte sapma; toplumda adaletsizlik anlamı taşır. AI sistemlerinde ikisi de konuşulur. Eğitim verisi tarihsel ayrımcılığı içeriyorsa model onu çoğaltabilir. Ölçüm metrikleri de yanlı olabilir. Çözüm tek “adil düğme” değildir: veri denetimi, eval setleri, kısıtlar, insan gözetimi ve ürün kararı gerekir. Tam nötrlük iddiası genelde yanıltıcıdır; şeffaflık ve zarar azaltma daha dürüst hedeftir.
Representation bias, measurement bias, aggregation bias gibi türler literatürde ayrılır.
LLM’lerde klişe dil ve sycophancy da önyargı tartışmasına girer.
Sık sorulanlar
Model tarafsız olur mu?
Mutlak tarafsızlık pratikte zordur. Amaç ölçülebilir zararları azaltmaktır.
Veri temizleyince biter mi?
Azalır ama ürün tasarımı ve eval olmadan yetmez.