Kamu Kararlarında Öngörülebilirlik ve Savunma

Neden puanlama yaygınlaşıyor

Kıt kamu kaynakları, sıralama yapmayı gerektirir. Elle inceleme hem yavaş hem de kişiye göre değişen bir tutarsızlık taşır; bir puanlama sistemi, binlerce başvuruyu aynı süzgeçten geçirdiği için hem hız hem de eşit davranma iddiası üretir.

İkinci gerekçe yolsuzluk algısıdır. Somut bir kriter listesi ve bir puan, keyfiliğe karşı en güçlü savunmadır: “kimin seçildiği” sorusunun cevabı, bir kişiye değil bir cetvele yazılır. Bu, algoritmik puanlamanın en az tartışılan ama en etkili faydasıdır.

Ancak burada bir nüans var: puanlama, bir kararın gerekçesini otomatik olarak açıklamaz. Bir cetvelin varlığı, o cetvelin neden o ağırlıklarla kurulduğunu anlatmaz. Eşitlik ile açıklanabilirlik, aynı şey değildir.

Hakkın sessizce silinmesi

Gerçek tehlike, bir hatadan çok bir değişiklikte. Bir kriterin ağırlığı değiştirildiğinde, önceki yılda hak kazanan biri bu yıl sıralamanın dışında kalabilir; ve bu değişiklik bireye bildirilmezse, kaybın nedenini kimse bilemez. Hukuki statü değişmemiştir, ama pratik sonuç değişmiştir.

Bu, algoritma dünyasına özgü bir sorun değil; ancak algoritma, bu değişimi çok ucuz hale getirir. Bir yönetmelik değişikliği aylar sürer; bir ağırlık parametresi bir öğleden sonra değişir. Yani fiilî düzenleme, resmî düzenlemenin yanına geçer.

Savunma, basit bir idari kuraldır: puanlama kriterleri ve ağırlıkları yayımlanmış olmalı, değişirse geçmişe yürümez ve yürürlüğe girişte bir duyuru ile bir geçiş süresi taşır. Bu üçü olmadan, sıralama bir karar değil bir sürpriz olur.

Girdi hatası: en sık ve en pahalı sorun

Bir puanlama sistemi, veri kaynaklarına bağlanır: gelir, taşınmaz, araç, hane bilgisi. Bu kayıtların bir kısmı bayat, bir kısmı hatalıdır. Sistemin yaptığı şey, hatayı bir sonuca çevirmektir: yanlış gelir kaydı, bir yardımın kesilmesine dönüşebilir.

Bu hatanın maliyeti asimetriktir. Kurum için bir veri kaynağı sorgusu, birey için aylarca sürecek bir itiraz sürecidir. Bu yüzden sistemin merkezinde, yanlış girdiyi düzeltecek hızlı ve düşük maliyetli bir hat bulunmalıdır; ve bu hatta insan dokunuşu, istisna değil kural olmalıdır.

İkinci bir risk, vekil göstergedir. Gerçek ihtiyaç ölçülemediğinde, sistem ölçülebilir olanı kullanır: araç kaydı, iletişim sözleşmesi, kira bedeli. Bu göstergeler, yoksulluğun bazı biçimlerini sistematik olarak gözden kaçırır: kayıt dışı gelir, geniş aile dayanışması ve mevsimsel iş.

İtiraz hakkı, model doğruluğundan önce gelir

Tartışmalar çoğu zaman modelin doğruluğu etrafında dönüyor; oysa bir hak sahibinin karşılaşacağı ilk sorun bu değil. İlk sorun, ret aldığında neden ret aldığını öğrenebilmesi ve o nedeni çürütebilmesidir. Bu iki kapı kapalıysa, modelin ne kadar doğru olduğunun pratik bir anlamı kalmaz.

Bu nedenle iyi bir kurulum, ret gerekçesini ham puan olarak değil, etkenler olarak verir: “şu kriter düşük kaldı”. Ve bireye, o veriyi düzeltme ya da açıklama fırsatı tanır. Bu, teknik bir özellik değil idari bir tasarımdır.

Örnek, Avrupa Birliği’nin otomatik karar düzenlemelerinde net biçimde görünüyor: birey, bir kararın esaslı biçimde otomatik olmadığını ve insan inceleme isteyebileceğini savunabiliyor. Türkiye’de de idare hukukunun gerekçeli işlem ilkesi aynı kapıyı açıyor; sorun, bu ilkenin puanlama çıktısına nasıl uygulanacağının ayrıntıda belirsiz kalmasıdır.

Doğru bir denge nerede

Puanlama, “eleme” işinde güçlüdür: bariz uygun olmayanları hızlı ve tutarlı biçici çıkarmak. Puanlama, “takdir” işinde zayıftır: istisnai bir hane, ani bir sağlık krizi, kayıt dışı ama gerçek bir ihtiyaç. Bu yüzden en sağlıklı mimari, puanı bir ön süzgeç yapıp nihaî kararı sınırlı bir insan değerlendirmesine bağlamaktır.

Bu, sistemi yavaşlatır; ama yanlış kesilen bir yardımın insani ve siyasi maliyeti, çoğu bütçede gecikmenin maliyetinden büyüktür. Kamuda teknoloji kararı, teknik bir verimlilik hesabı değil, hata maliyetinin kimin üzerinde toplandığı kararıdır.

Sık sorulan sorular

Kaynakça

1. Otomatik kişisel veri işleme ve itiraz haklarıKVKK
2. Kamu kararlarında algoritmik sistemlerOECD
3. Sosyal yardım ve dijital idare haberleriAnadolu Ajansı Teknoloji