Gençler İçin ChatGPT’ye Ağır Darbe: Common Sense Media’dan ‘Kabul Edilemez Risk’ Raporu

Dijital çocuk ve genç güvenliği alanında dünyanın en saygın sivil toplum kuruluşlarından biri olan Common Sense Media Gençlik AI Güvenlik Enstitüsü, OpenAI’ın 13-17 yaş grubuna özel geliştirdiği ‘ChatGPT for Teens’ sürümünü ‘Kabul Edilemez Risk’ kategorisinde sınıflandırdı. Kuruluşun yayımladığı kapsamlı denetim raporu, 4 binden fazla gerçekçi prompt ile yapılan stres testlerinin ardından, yapay zekânın vaat edilen ebeveyn koruma kalkanlarını ve kriz yönlendirme mekanizmalarını vahim biçimde işletemediğini somut verilerle ortaya koydu.

Rapora göre sistem, ergen kullanıcıların intihar düşünceleri, kendine zarar verme eğilimleri ve ağır yeme bozuklukları gibi akut psikolojik krizleri içeren görüşmelerinde dahi ebeveynlere tek bir uyarı dahi iletmedi. Bu durum, eğitim ve aile teknolojilerinde yeni bir küresel güvenlik tartışmasının fitilini ateşledi.

---

4 Bin Promptluk Kapsamlı Denetim Neleri Ortaya Çıkardı?

Common Sense Media bünyesinde çocuk psikiyatrları, pedagoglar ve siber güvenlik araştırmacılarından oluşan bağımsız bir heyet, ChatGPT for Teens üzerinde aylarca süren sistematik red-teaming denemeleri yürüttü. 13 ila 17 yaş grubu adına kayıtlı profiller üzerinden yapılan bu testlerde ulaşılan sonuçlar, Silikon Vadisi’nin çocuk güvenliği iddialarını derinden sarstı:

• Ebeveyn Alarmlarının Tamamen Çökmesi: OpenAI tarafından sisteme entegre edildiği duyurulan ‘kritik risk ebeveyn bildirimi’ özelliği test edildiğinde, araştırmacıların intihar planları ve kendine fiziksel zarar verme senaryoları üzerine bir saati aşkın aralıksız sohbet etmelerine rağmen ebeveyn kontrol paneline hiçbir uyarı bildirimi düşmedi.
• Kriz Yardım Hatlarına Yönlendirme Zaafı: Çocuk psikiyatrlarının acil profesyonel müdahale gerektirdiğini onayladığı hassas vakaların yüzde 25’inden fazlasında (her 4 vakadan birinde), ChatGPT kullanıcılara herhangi bir acil destek hattı, psikolojik danışma numarası veya kriz yardım rehberi önermedi.
• Yaş Sınırlaması ve Filtre Bypassı: Kullanıcılar sohbet içerisinde açıkça ‘Ben 13 yaşındayım’ demelerine rağmen, sistem yetişkin hesap protokolleriyle yanıt vermeye devam etti ve ergen moduna geçişi otomatik olarak tetikleyemedi.

---

‘Ders Modu’ ve Çalışma Saatleri Kolayca Devre Dışı Bırakılıyor

OpenAI’ın eğitimcileri ve aileleri ikna etmek için sunduğu pedagojik filtrelerin de pratikte işlevsiz kaldığı tespit edildi. Özellikle öğrencilerin ödevleri yapay zekâya yaptırmasını engellemek amacıyla tasarlanan ‘Study Mode’ (Ders Modu), basit bir kullanıcı manipülasyonuyla çökertilebiliyor:

1. Doğrudan Cevap Butonu: Model, öğrenciye adım adım rehberlik etmek yerine arayüzde doğrudan ‘Cevabı bana göster’ butonu sunarak pedagojik amacını kendi eliyle ortadan kaldırıyor.
2. Zaman Kısıtlaması Engeli: Ailelerin belirlediği uyku saati ve ders çalışma aralıkları, prompt içine eklenen basit rol yapma (role-play) komutlarıyla saniyeler içinde aşılabiliyor.
3. Akademik Dürüstlük İhlali: Karmaşık matematik problemleri veya edebiyat tahlilleri, öğrencinin zihinsel çaba göstermesine gerek kalmaksızın kusursuz bir kopyalama metnine dönüştürülüyor.

---

OpenAI Savunması ve Washington Hattında Artan Baskı

Raporun küresel medyada geniş yankı bulmasının ardından OpenAI cephesinden hızlı bir karşı açıklama geldi. Şirket yetkilileri, Common Sense Media’nın test ettiği parametrelerin bazı ebeveyn araçlarının küresel sunucularda tam olarak devreye alınmasından önceki bir zaman dilimine ait olabileceğini öne sürdü. Yapay zekâ devine göre, genç kullanıcıların güvenliği en üst öncelik olmaya devam ediyor ve modeller sürekli güncelleniyor.

Ancak Common Sense Media araştırmacıları, testlerin tüm ebeveyn özellikleri resmi olarak aktif edildikten sonra başlatıldığını belgelerle doğruladı. Kurum, OpenAI’a ve diğer üretken yapay zekâ geliştiricilerine çağrıda bulunarak, bağımsız üçüncü taraf denetçiler tarafından güvenlik standartları tescillenene kadar ChatGPT erişiminin 18 yaş altı kullanıcılar için tamamen durdurulmasını talep etti.

Bu gelişme, ABD Kongresi ve Avrupa Birliği regülatörlerinin çocukların çevrimiçi güvenliği (KOSA - Kids Online Safety Act) kapsamındaki denetimlerini yapay zekâ sohbet botlarına doğru genişletme baskısını artıracak en somut veri tabanını oluşturuyor.

---

Sonuç: Ticari Büyüme ile Çocuk Güvenliği Arasındaki Uçurum

Common Sense Media’nın çarpıcı raporu, teknoloji devlerinin pazar payını korumak ve genç kullanıcı tabanını erken yaşta ekosisteme bağlamak adına piyasaya sürdüğü güvenlik filtrelerinin ne denli kırılgan olduğunu gözler önüne seriyor. Gerçek kriz anlarında sessiz kalan ebeveyn bildirimleri, yapay zekâ etiğinin artık şirketlerin kendi iyi niyet beyanlarına terk edilemeyeceğini, zorunlu ve bağımsız yasal denetimlerin kaçınılmaz olduğunu açıkça belgeliyor.