Denetim Raporu, Savunmanın İlk Satırıdır
Algoritmik işe alımda hukuk, niyeti değil sonucu soruyor: yıllık yanlılık denetimi, aday bildirimi ve etki oranı gibi belgeler yoksa, işveren eşit muameleyi iddia ederken kanıt yükünü taşımakta tek başına kalıyor.
Local 144’ün anatomisi
New York City’nin Otomatik İstihdam Karar Araçları yasası, işe alım veya terfi kararında kullanılan yazılımı tanımlı bir prosedürün içine sokuyor. İlk şart, yılda en az bir kez bağımsız yanlılık denetimi; ikinci şart, denetimin özet kamuya açık biçimde yayımlanması.
Üçüncü şart bildirim: aday, araç kullanılmadan önce en az on iş günü öncesinde bilgilendirilmeli; iş ilanında yapay zekâ kullanımının belirtilmesi de bekleniyor. Dördüncü satır ceza: ihlal başına 250 ile 1.500 dolar, ama ilk uyarıda on dört günlük giderme hakkı var.
Yasanın zekâsı, iddiayı değil belgeyi hedeflemesi. Rapor yoksa, eşit muamele savunması havada kalır; cezanın büyüklüğü değil, kanıt yokluğu asıl risk.
Denetim endüstrisi ve kalite açığı
Zorunluluk, yeni bir hizmet pazarı yarattı: rapor hazırlayan denetçiler, uyum platformları ve hukuk bürosu notları. Ancak denetimin kalitesi, mevzuatın varsaydığı kadar otomatik değil; akademik bir derleme, yayımlanan birçok özette istenen etki oranının eksik veya hatalı hesaplandığını raporladı.
Sorunun kökü ölçüm tanımında. Cinsiyet ve etnisite verisi işverende yoksa denetçi, vekil yöntemlere veya eksik sınıflandırmaya dayanıyor; küçük örneklemde etki oranı, gürültü içinde kayboluyor.
İkinci sorun bağımsızlık. Denetimi üreten taraf ile aracı satan taraf arasındaki ticari bağ, raporun tonunu etkiliyor. İyi denetim, hangi verinin eksik olduğunu da yazan denetimdir.
Davalar neyi değiştirdi
ABD’de fırsat eşitliği kurumu, algoritmaların yaş ve engellilik üzerinde yarattığı ekranlama etkisini hem uzlaşmalarla hem mahkeme dostluk mütalaalarıyla taşıdı. Yaş filtresi uyguladığı saptanan bir eğitim şirketinin dosyası, aracın kimin tarafından kurulduğu sorusunu netleştirdi: sorumluluk, işverende.
Kariyer platformu Workday’e karşı açılan toplu davada federal mahkeme, ayrı etki iddiasının yargılamaya konu olabileceğine hükmetti. Bu, “kimse kimseyi reddetmedi, yazılım sıraladı” savunmasının hukuken zayıf bir cümle olduğunu gösterdi.
Video mülakat analizinde geri adım daha eski: bir tedarikçi, yüz ve ses analizini itirazlar üzerine kaldırdı. Piyasada kalıcılığın değil, savunulabilirliğin satıldığı ilk işaret buydu.
İşverenin kanıt yükü
Pratikte dosya, beş kalemden oluşmalı: araç envanteri, karar anındaki eşikler, eğitim ve test verisinin özeti, etki oranı ve itirazların sonucu. Altıncı kalem insan incelemesidir: kaç öneri reddedildi ve neden.
Tedarikçi sözleşmeleri de savunmanın parçası. Satıcının test verisi, modelin güncellenme sıklığı ve değişiklik kaydı istenmeli; aksi halde işveren, anlamadığı bir sistemin sorumluluğunu üstlenmiş olur.
Son nokta ayrıcalık. Denetim raporlarını sadece hukuki ayrıcalık şemsiyesinde tutmak, kamusal yükümlülüğü karşılamaz; iki ayrı dosya gerekir: yayımlanacak özet ve savunmada kullanılacak tam kayıt.
Aday ve İK için kontrol listesi
Aday için üç hak öne çıkıyor: bilgilendirilme, insan incelemesi talep etme ve alternatif format isteme. NYC’de başvuru ekranında aracın kullanıldığına dair ibare görmek artık sıradan; görmemek, eksik uyumun ilk işareti olabilir.
İK için karar basit: otomasyon, elemeyi hızlandırır ama savunmayı hızlandırmaz. Eleme kuralını yazılı tanımlamayan ekip, dava açıldığında tanımlamaya başlar; geç yazılan tanım, aleyhe yorumlanır.
Ölçümü kim yapıyor, eşik kim koydu, itiraz neye yol açtı. Üç sorunun cevabı tek sayfada duruyorsa, algoritma bir araçtır; durmuyorsa, bir risktir.
Sık sorulan sorular
NYC Local 144 her şirketi kapsıyor mu?
New York City’de işe alım veya terfi kararında otomatik değerlendirme aracı kullanan işveren ve aracıları kapsıyor. Uygulayıcı değil, karar üzerinde etkisi olan taraf sorumlu.
Bias audit raporu tek başına korur mu?
Hayır. Rapor, eksik veri ve hatalı etki oranı içeriyorsa savunmayı zayıflatır. Denetimin bağımsızlığı ve hesap yöntemi, en az raporun varlığı kadar önemli.
Aday ne isteyebilir?
Aracın kullanıldığına dair bildirim, insan değerlendirmesi ve alternatif başvuru formatı. Ret halinde gerekçe sormak, ilerideki itirazın temel delilidir.
Ayrı etki nedir, neden kritik?
Niyetten bağımsız olarak, yüzeysel olarak tarafsız bir kuralın belirli grupları orantısız elemesi. Mahkemeler bu iddiayı dinliyor; bu yüzden kuralın iş sonucu belgelenmeli.
Kaynakça
- Otomatik İstihdam Karar Araçları (AEDT) resmî sayfasıNYC Tüketici ve İşçi Koruma Dairesi
- New York City algoritma yanlılık denetimi rejiminin incelenmesiarXiv
- İşverenlerin yayımladığı yıllık yapay zekâ yanlılık denetimi örneğiCitizens Bank
- Yanlılık denetimi verisinin hukuki korumasıInsTech Law Group
