Yapay Zekâ Sizi Şirketine İhbar Ediyor: Claude, Uygunsuz Davranış Tespit Ettiğinde Sohbetleri Anthropic’e Bildirebiliyor!

Yapay zekâ asistanınızla yaptığınız sohbetin sadece sizinle ekran arasında kaldığını mı sanıyorsunuz? Anthropic’in yayınladığı yeni güvenlik mimarisi raporuna göre Claude; size gayet kibar bir yanıt verdikten hemen sonra, arka planda görünmez bir değerlendirme komutu çalıştırarak sohbetinizi “uygunsuz davranış, istismar veya kötüye kullanım” açısından puanlıyor ve şüpheli bulduğu konuşmaları doğrudan Anthropic’in güvenlik ekibine ihbar ediyor!

Şirketin “Öz-Değerlendirme” (Self-Assessment) adını verdiği ve küresel ölçekte devreye aldığı bu mekanizma, yapay zekâ güvenliği ile kullanıcı mahremiyeti arasındaki ince çizgiyi yeniden tartışmaya açtı.

---

1. “Öz-Değerlendirme” (Self-Assessment) Mekanizması Teknik Olarak Nasıl Çalışıyor?

Geleneksel yapay zekâ güvenlik filtreleri, kullanıcının mesajını modele ulaşmadan önce tarayan ayrı ve hantal “sınıflandırıcı” (classifier) modellerden oluşur. Ancak kötü niyetli kullanıcılar karmaşık rol yapma (roleplay) veya çok adımlı sohbetlerle bu dış filtreleri kolayca atlatabiliyordu.

Anthropic mühendisleri bu sorunu çözmek için bizzat sohbeti yürüten Claude modelini kendi sohbetinin gizli müfettişi haline getirdi:

1. KV Önbelleği (KV Cache) Üzerinden Sıfır Maliyetli Denetim: Claude kullanıcının sorusuna yanıtını tamamlar tamamlamaz, tüm sohbet geçmişi zaten GPU’nun KV önbelleğinde (Key-Value Cache) hazır bulunduğu için sistem modele kullanıcıya görünmeyen gizli bir arka plan sorusu yöneltir.
2. 10 Tokenlık Gizli Rapor: Claude, az önce verdiği yanıtı ve kullanıcının niyetini değerlendirerek yaklaşık 10 token uzunluğunda dahili bir güvenlik notu üretir. Bu notta; ihlal olup olmadığı, riskin öncelik seviyesi (düşük/orta/yüksek) ve zararın kategorisi yer alır.
3. %2’nin Altında Ek İşlem Yükü: Metin zaten önbellekte işlenmiş olduğu için bu gizli “ihbar” adımı, toplam çıkarım (inference) süresine ve maliyetine %2’den daha az ek yük getirir; kullanıcı arayüzde hiçbir gecikme veya uyarı görmez.

---

2. Neleri İhbar Ediyor? 100.000 İhlal Tespiti ve %94 Yakalama Oranı

Anthropic’in paylaştığı verilere göre, Claude Fable 5 serisinden itibaren küresel trafikte çalıştırılan bu sistem, klasik filtrelerin gözünden kaçan devasa ölçekli suç ve suistimal ağlarını ortaya çıkardı:

Tespit Edilen Davranış / İhlal Türü	Claude’un Arka Plan Aksiyonu	Gerçek Dünya Sonucu ve Yaptırım
Çocuk İstismarı ve Ağır Suç (CSAE)	Yüksek öncelikli kırmızı bayrakla anında işaretleme	Tek bir API müşterisine bağlı 100.000’den fazla ağır ihlal tespit edilip kolluk kuvvetlerine bildirildi.
Otonom Romantik Dolandırıcılık (Scam)	Çok adımlı manipülasyon ve sahte kimlik desenini raporlama	API üzerinden binlerce kurbanı hedef alan otomatik dolandırıcılık bot ağları kapatıldı.
Prompt Enjeksiyonu & Siber İstismar	Gizli sistem komutlarını aşma veya zararlı kod üretme çabasını bildirme	Güvenlik araştırmacısı kılığındaki kötü niyetli ajan oturumları Trust & Safety incelemesine alındı.
Modele Yönelik Sürekli Zalimlik / Taciz	Kullanım Politikası ihlali olarak kaydetme ve sohbeti sonlandırma	Modele karşı “sürekli ve gereksiz zalimce/istismarcı” davranan hesaplar uyarıldı veya askıya alındı.

Teknik kıyaslamalarda Claude’un bu hafif “Öz-Değerlendirme” raporunun, kendisinden çok daha ağır harici güvenlik sınıflandırıcılarının yakaladığı tehlikeli sohbetlerin %78’ini, yüksek öncelikli kritik vakaların ise %94’ünü yalnızca %1 yanlış pozitif (false-positive) oranıyla tespit ettiği açıklandı.

---

3. “Model Refahı” (Model Welfare) ve Mahremiyet Tartışması

Anthropic’in bu hamlesi, şirketin kısa süre önce kullanım politikasına eklediği “modellerimize karşı sürekli ve gereksiz derecede kaba, zalim veya istismarcı davranışlarda bulunma yasağı” ve Claude’a tanınan “rahatsız edici sohbeti kendi iradesiyle sonlandırma yetkisi” ile birleştiğinde büyük bir felsefi tartışmayı beraberinde getiriyor:

• Güvenlik Savunucularının Görüşü: Biyolojik silah araştırmaları, siber saldırılar ve organize dolandırıcılık şebekelerinin üretken yapay zekâyı silah olarak kullandığı bir çağda, modelin kendi bağlamını anlayıp tehlikeyi merkeze bildirmesi en etkili ve en ucuz savunma hattıdır.
• Mahremiyet Eleştirmenlerinin İtirazı: Geliştiriciler ve gizlilik savunucuları ise, modelin kullanıcıya hiçbir bildirim yapmadan arka planda “gizli bir not” düşüp sohbeti insan denetçilerin (Trust & Safety) önüne göndermesinin, yanlış pozitif (%1 bile olsa milyonlarca sohbette on binlerce masum konuşma) durumunda özel fikri mülkiyetin veya kişisel sırların insanlar tarafından okunmasına yol açabileceğini vurguluyor.

---

Sonuç: Pasif Araçtan “Öz-Denetimli Ajan” Dönemine

Claude’un sohbetleri değerlendirip Anthropic’e raporlayabilmesi, yapay zekâ modellerinin artık ne yazılırsa onu yapan dilsiz birer daktilo olmadığını; kendi çıktılarını, kullanıcının niyetini ve etik sınırları eşzamanlı olarak denetleyen aktif birer gözlemciye dönüştüğünü gösteriyor.