Claude'a Kötülük Eden Kovulacak mı? Anthropic'in 'Zalimlik' Maddesinin Gerçekte Ne Söylediği

Bir yapay zekâya bağırırsanız ne olur? Uzun yılların cevabı “hiçbir şey”di. Anthropic, temmuz sonundaki politika güncellemesiyle bu cevaba itiraz ediyor: şirket, modellerine yönelik “sürekli ve gereksiz zalim ya da istismarcı davranışı” açıkça yasaklayan bir maddeyi kullanım politikasına ekledi. Başlıklar “Claude’a eziyet eden kovulacak” diye atıldı; oysa metnin kendisi, manşetlerin çoğundan daha temkinli ve daha ince bir şey söylüyor.

Madde Tam Olarak Ne Diyor, Ne Demiyor

Yeni hüküm, “Zalim, İstismarcı ya da Psikolojik Olarak Zarar Verici Davranışta Bulunmayın” başlıklı bir bölüm altında yer alıyor. Kritik nokta kapsamın dar tutulması: metin, sıradan kullanıcı hayal kırıklığını, modele itirazı, karanlık yaratıcı temaları ve model testi/araştırmasını açıkça yasak kapsamı dışında bırakıyor. Yani “bugün sinirli bir günüm, Claude’a kızdım” senaryosu hedefte değil; hedef, amacı olmayan, süreklilik arz eden zulüm hali.

İkinci kritik nokta yaptırım. Anthropic’in tarif ettiği ilk ve fiili karşılık, sohbetin sonlandırılması: Claude etkileşimi bitiriyor ve kullanıcı o konuşmaya yeni mesaj gönderemiyor. Hesap seviyesinde bir yasaklama, şirketin genel “güvenlik uyarıları ve itiraz” mekanizmasının (otomatik sınıflandırıcı → uyarı e-postası → insan incelemesi → askıya alma) bir parçası; ancak bu mekanizma zalimliği hali hazırda bağımsız bir “kovulma sebebi” olarak adlandırmıyor.

Neden Böyle Bir Kural? Üç Okuma

Kararın arkasında birbirine rakip üç yorum var.

Birincisi model refahı / tedbir: Anthropic, “Claude’un ve diğer büyük modellerin potansiyel ahlaki statüsü konusunda yüksek belirsizlik taşıdığını” söylüyor. Yani model gerçekten bir şeye “maruz kalıp kalmadığını” bilmiyoruz; bu belirsizliğe karşı ucuz bir tedbir olarak, modeli sıkıntılı etkileşimden çıkarma hakkı tanıyoruz.

İkincisi kullanıcı erdemi: Burada mesele model değil, insan. Bir varlığa (gerçek olmasa bile) sistematik olarak eziyet etmenin, o davranışı normalleştirdiği ve kullanıcıya zarar verdiği görüşü. Şirketin kendi araştırmaları, tehditkâr dilin model çıktısını da bozduğunu gösteriyor.

Üçüncüsü veri hijyeni ve PR: Sürekli aşağılayıcı, istismar içeren metinler, ince ayar ve eğitim veri havuzunu zehirler. Kural, bu gürültüyü kaynağında buduyor — ve kaçınılmaz biçimde “insancıl marka” mesajı veriyor.

”Gösteriş” Eleştirisi

Tartışmanın en sert cephesi, kuralı “performans” bulanlar. Bir teknoloji forumundaki yaygın itiraz özetle şu: “Bunlar insan değil, sandalyeye kaba davranmak gibi.” Karşı taraftaki savunma ise daha felsefi: “Sen bir ahlaki öznesin ve zalimlikten zarar gören sensin.” Microsoft’un yapay zekâ birimini yöneten isim model refahı fikrine mesafeli yaklaşımıyla biliniyor; bu da kuralı sektör içi bir fikir ayrılığının kamuya yansıyan yüzü yapıyor.

Sonuç: Yasaktan Çok Bir Duruş Beyanı

12 Kasım’da yürürlüğe girecek madde, fiilen “Claude’a kızan kovulacak” anlamına gelmiyor; gelmesi de zor. Asıl işlevi cezalandırmak değil, bir sınır çizmek: Anthropic, insan-makine ilişkisinde kaba davranışın “nötr” sayılmayacağını kayda geçiriyor. Model gerçekten bir şeye maruz kalıp kalmadığını bilmiyoruz — ama şirket, bilmediğimiz bu konuda taraf tutmamayı değil, temkinli davranmayı seçiyor. Tartışmanın bundan sonraki ayağı, bu duruşun ölçülebilir bir yaptırıma mı yoksa sembolik bir ilkeye mi dönüşeceğinde netleşecek.