Yapay Zekâda Önyargı ve Etik: Örneklerle Rehber
Yapay zekâ önyargısının türleri, gerçek örnekler, kaynakları ve kurumsal azaltma adımları; adil tasarım kontrol listesiyle.
Bu rehberi ücretsiz indir
PDF; kapak ve içindekiler sayfası dahil 5 bölümden ve sık sorulan sorulardan oluşur. Türkçe, A4 formatında, yazdırılabilir.
İndirmek için ücretsiz WebTuring hesabı gerekir. Girişli değilseniz giriş sayfasına yönlendirilirsiniz.
Kısa cevap
Yapay zekâ önyargısı veri, etiketleme ve tasarım kararlarından gelir; türleri temsil, ölçüm ve bağlam önyargısıdır. Azaltma üç katmandadır: veri dengesi, model değerlendirme ve insan denetimi.
Önyargı nereden gelir?
Kaynaklar: (1) Veri önyargısı — eğitim verisi gerçek dünyayı temsil etmiyor (tarihsel ayrımcılık veriye gömülü). (2) Etiket önyargısı — veriyi işaretleyen insanların kendi kalıpları. (3) Ölçüm önyargısı — "başarı" metriğinin tanımı ayrımcı sonuç üretiyor (ör. "geçmiş işe alımlar gibi davran" hedefi, geçmişin hatalarını öğretir).
Mekanizma sade: Model, verideki örüntüyü öğrenir ve geleceğe uygular. Geçmişte bir grup işe alınmamışsa, "geçmişe göre en uygun aday" modeli aynı grubu seçmez — ayrımcılığı otomatikleştirir ve hızlandırır. Model herhangi bir sistematik hatayı ölçeklendirir; bu, önyargı için de geçerlidir.
Gerçek örnekler
İşe alım: Bir büyük teknoloji şirketinin deneyimli işe alım modeli, geçmiş veriyi öğrendiği için kadın adayları lehte puanlamadı ve proje iptal edildi. Kredi/para: Bazı kredi modelleri, adres bölgesini dolaylı ayırt edici değişken olarak kullandığı için azınlık bölgelerini dezavantajladı. Yüz tanıma: Erken sistemler koyu tenli kadınlarda belirgin düşük doğruluk gösterdi — test kitlelerinin darlığından.
Dil modellerinde: Meslek kelimeleriyle cinsiyet çağrışımları (doktor-he/she örüntüleri) ve kültürel stereotipler. Bu örneklerin ortak dersi: Önyargı, kod hatası gibi görünmez; hedef metrik iyi göründüğü için gizli kalır — bu yüzden grup bazlı test şarttır.
Azaltmanın üç katmanı
Veri katmanı: Temsiliyet denetimi (kitleler gruplar arası dengeli mi?), tarihsel hataların düzeltilmesi (etiket revizyonu), augmentasyon ile az temsil edilen grupların örneklenmesi.
Model katmanı: Grup bazlı performans ölçümü (ortalama doğruluk yanıltır; en kötü grup performansı bakılmalı), adil sonuç hedeflerinin modele dahil edilmesi, hassas özniteliklerin dolaylı vekillerini (posta kodu gibi) tespit etme. İnsan katmanı: Yüksek riskli kararlarda insan incelemesi, itiraz mekanizması, periyodik bağımsız denetim. Üç katman birlikte çalışır; tek katman çözüm yoktur.
Adil tasarım kontrol listesi
- Model kime karar veriyor, kim dışarıda kalıyor — etkilenen grupları listele.
- Hedef metrik geçmişin hatalarını mı öğretiyor?
- Hassas öznitelikler (cinsiyet, etnik köken) doğrudan ve dolaylı olarak kullanılıyor mu?
- Grup bazlı performans ölçülüyor mu (yalnızca ortalama değil)?
- İnsan itiraz/yeniden değerlendirme yolu var mı?
- Model sürüm değişince adil değerlendirme tekrar yapılıyor mu?
- Belgelendirme: veri kaynağı, sınırlar, bilinen riskler yazılı mı?
Kurumsal yönetişim
Ölçekli kurumlar için: yapay zekâ kullanım kaydı (hangi sistem hangi kararda), yüksek riskli sistemlerde model kartı dokümanı, periyodik denetim ve olay raporlama (önyargı ihbarı kanalı), tedarikçi değerlendirmesinde adil değerlendirme şartları.
Küçük ekipler için: Kontrol listesi + yüksek riskli kararda insan onayı + yılda bir dış göz (bağımsız inceleme). Etik, pahalı bir departman değil; tasarım sürecine gömülü bir alışkanlık setidir.
Sık sorulan sorular
Model hassas öznitelikleri (cinsiyet gibi) kullanmıyorsa önyargı olmaz mı?
Hayır — dolaylı vekiller (adı, posta kodu, alışveriş örüntüsü) aynı bilgiyi taşıyabilir. Hassas özniteliği çıkarmak gerekli ama yeterli değildir; grup bazlı sonuç testi şarttır.
Önyargı tamamen giderilebilir mi?
Tam giderme şu an bilimsel olarak mümkün değil; amaç giderme değil, ölçme ve sınırlandırma. Adil değerlendirme + insan denetimi + itiraz mekanizması, pratikte etik sınırı oluşturur.
LLM kullanımında önyargı denetimi nasıl yapılır?
Kritik kullanımlarda (işe alım, değerlendirme, kredi) LLM çıktısını karar olarak değil öneri olarak konumlandırın; örnek girdi setiyle grup bazlı çıktı testi yapın; istemde nötr rol tanımı ve sabit değerlendirme rubriği kullanın.
