RA-Bench Raporu: 19 Yapay Zekâ Dedektörü Gerçek Dünya Kriz Videolarında Sınıfta Kaldı

Yapay zekâ tarafından üretilen sahte videoları tespit etmek üzere geliştirilen güvenlik yazılımlarının; savaş, deprem, sel ve toplumsal çatışma gibi gerçek dünya kriz videolarında tamamen yetersiz kaldığı ortaya çıktı. Bağımsız araştırmacılar tarafından yayımlanan ve sektörün en kapsamlı değerlendirmesi kabul edilen RA-Bench benchmark raporu, test edilen 19 farklı yapay zekâ tespit sisteminin hiçbirinin kriz anlarında güvenilir bir genelleme yapamadığını kanıtladı.

“Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events?” başlıklı akademik çalışmada; 1.830 gerçek kriz videosu ile 9 farklı açık ve kapalı kaynaklı video üretim motoru (Sora, Runway, Pika, Kling vb.) tarafından üretilen 16.056 yapay zekâ klibi bir araya getirilerek toplam 17.886 videoluk devasa bir test veri seti oluşturuldu.

---

19 Dedektör Neden Başarısız Oldu? 3 Farklı Ailenin Çöküşü

Araştırmacılar, güvenlik sektöründe kullanılan tespit araçlarını üç ana kategoriye ayırarak inceledi:

1. 7 Geleneksel Adli Dedektör: Piksel frekansı, ışık tutarsızlığı ve yüz anomalilerini inceleyen algoritmalar.
2. 10 Sıfır-Atış (Zero-Shot) Çok Modlu Model: CLIP ve benzeri genel görsel modeller.
3. 2 Özel İnce Ayarlı Çok Modlu LLM (MLLM): Doğrudan sahte video tespiti için eğitilmiş gelişmiş dil modelleri.

Sonuçlar şok edici oldu: Laboratuvar ortamındaki temiz ve stüdyo kalitesindeki sahte videolarda %90’ın üzerinde başarı gösteren sistemler, gerçek bir savaş alanı veya sel felaketine ait bulanık, sarsıntılı ve sıkıştırılmış görüntülerle karşılaştığında rastgele tahmin düzeyine (%50–60) geriledi.

Araştırmanın En Çarpıcı 4 Bulgusu:

1. İnsanı En Çok Kandıran Video Dedektörü de Kandırıyor: İnsan gözünü en kolay aldatan yüksek kaliteli sahte videolar, otomatik algoritmaların da en çok hata yaptığı (false negative) içerikler oldu.
2. Sosyal Medya Sıkıştırma Engeli: Bir video WhatsApp, Telegram veya X (Twitter) üzerinde paylaşıldığında uğradığı video sıkıştırması (compression degradation), dedektörlerin piksel düzeyindeki analizlerini tamamen felç ediyor.
3. Yüksek Yanlış Alarm (False Positive) Oranı: Yangın dumanı, sis, gece görüş kameraları ve düşük çözünürlüklü gerçek cep telefonu çekimleri algoritmalar tarafından sıklıkla “sahte video” olarak damgalandı.
4. Yeni Üretim Modellerine Uyumsuzluk: Bir model ailesiyle eğitilen dedektör, başka bir şirketin video motoruyla üretilen yeni bir klibi tanıyamıyor.

---

Gazetecilik ve Kriz Yönetimi İçin Acil Uyarı

RA-Bench raporunun yazarları, haber ajanslarının, doğrulama platformlarının ve devlet kriz merkezlerinin “otomatik yapay zekâ kontrol araçlarına” asla körü körüne güvenmemesi gerektiği konusunda acil uyarıda bulundu.

Otomatik sistemlere aşırı güvenilmesinin iki büyük riski bulunuyor:

• Gerçek Kanıtların Karalanması: Bir savaş suçunu veya insan hakları ihlalini belgeleyen gerçek cep telefonu videolarının “bu sahte” denilerek sansürlenmesi.
• Dezenformasyonun Yayılması: Kriz anında paniğe yol açmak için üretilen kusursuz bir kurgunun sistemden onay alarak yayılması.

Sistem Tipi	Laboratuvar Başarımı	Gerçek Kriz Başarımı	Ana Zayıflık
Geleneksel Piksel Dedektörleri	%92	%54	Sıkıştırma ve gürültüye aşırı duyarlı
Sıfır-Atış Görsel Modeller	%78	%51	İnce mantık ve fizik hatalarını kaçırıyor
İnce Ayarlı MLLM Modelleri	%88	%61	Gerçek dünya bağlamını ve mekan bilgisini anlayamıyor

---

Gelecekte Doğrulama Nasıl Yapılacak?

Araştırmacılar tek başına piksellere bakan algoritmaların devrinin kapandığını belirtiyor. Gelecekte güvenilir doğrulama için:

• Kriptografik C2PA İmzaları: Kameraların çekim anında donanım düzeyinde konum ve zaman damgası basması.
• Çok Kaynaklı Coğrafi Doğrulama (Geolocation & Chronolocation): Uydu görüntüleri, hava durumu verileri ve gölge boyu hesaplamalarıyla çapraz kontrol.
• İnsan-Makine Hibrit Denetimi: Gazeteci ve adli bilişim uzmanlarının algoritmalarla birlikte çalışması gerekiyor.

---

Kısa Özet

• RA-Bench Testi: 17.886 videoluk küresel araştırmada 19 deepfake dedektörü test edildi.
• Sıfır Güvenilirlik: Sistemlerin hiçbiri gerçek dünya kriz senaryolarında tutarlı ve genellenebilir bir başarı sağlayamadı.
• Sosyal Medya Etkisi: Video paylaşım platformlarının sıkıştırma algoritmaları dedektörleri işlevsiz kılıyor.
• Uzman Uyarısı: Kriz anlarında otomatik dedektörlere güvenilmemesi, insan denetimi ve uydu çapraz kontrolünün şart olduğu vurgulandı.

---

Sonuç

RA-Bench raporu, yapay zekâ çağında dezenformasyonla mücadelede “sihirli bir otomatik buton” olmadığını acı bir şekilde gösterdi. Kriz anlarında gerçeği sahteden ayırt edebilmek, yalnızca kodların değil, eleştirel insan aklı, derin editoryal doğrulama ve çok kaynaklı araştırmacılığın gücüyle mümkün olacaktır.