Giriş yap

EU AI Act: Avrupa Yapay Zekâyı Nasıl Düzenliyor?

314 kelime3 dk okuma

EU AI Act, düzenlemeyi teknoloji yerine risk seviyesine dayandırır; kabul edilebilir riskli uygulamalardan yasaklananlara kadar geniş bir yelpazede farklı yükümlülükler getirir ve şirketler için uyum, mimari tasarım aşamasında başlar.

Risk temelli yaklaşım

Düzenleme, teknolojinin kendisini değil, kullanım alanının riskini esas alır. Aynı model, düşük riskli bir yardımcıda kullanılıyorsa farklı, yüksek riskli bir işe alım sisteminde kullanılıyorsa çok daha katı kurallara tabidir.

Bu yaklaşım, teknoloji geliştiricilerini değil, uygulayıcı kurumları hedefler. Model sağlayıcısı ile sistem kullanan kurum arasındaki sorumluluk dağılımı bu nedenle belirleyicidir.

Yasaklanan uygulamalar

Düzenleme, kamusal alanda sosyal skorlama, belirli özelliklerden yola çıkarak ayrımcılık yapma ve zayıf konumdaki kişileri manipüle etme gibi uygulamaları yasaklar. Amacı, kabul edilemez riskleri tamamen devre dışı bırakmaktır.

Bu yasaklar mutlak niteliktedir; risk azaltma veya şeffaflık yoluyla sapma mümkün değildir. Bu, düzenlemenin en katı kısmıdır.

Yüksek risk yükümlülükleri

Sağlık, eğitim, işe alım, kredi değerlendirmesi ve kritik altyapı gibi alanlar yüksek riskli sayılır. Bu alanlarda veri yönetimi, teknik dokümantasyon, insan denetimi, doğruluk ve şeffaflık yükümlülükleri getirilir.

Bu yükümlülükler uyumun yalnızca kâğıt üzerinde kalmayacağını gösterir. Sistemin geliştirilme aşamasında veri ve dokümantasyon altyapısı kurulmalıdır.

Genel amaçlı modeller

Genel amaçlı modeller için şeffaflık ve telif yükümlülükleri getirilir. Eğitim verisinin özeti, telif hakkı sahiplerinin rıza hakkı ve modelin yeteneklerine ilişkin teknik dokümantasyon talep edilir.

Bu, lisanslı veri kullanımını ve model şeffaflığını teşvik eder. Sağlayıcılar için ek operasyonel yük, kurumsal müşteriler için ise daha yüksek güven anlamına gelir.

Kurumlar için sonuç

En önemli değişim, uyumun sonradan değil baştan planlanmasıdır. Veri yönetimi, dokümantasyon ve insan denetimi mimariye tasarım aşamasında eklenmezse, sonradan eklemek çok daha maliyetlidir.

Bu, yapay zekâ projelerini yazılım projelerinden farklı kılar. Bir modeli seçmek yetmez; onun hangi sistemde, hangi risk sınıfında kullanılacağının belgelenmesi gerekir.

Sık sorulan sorular

EU AI Act neyi düzenliyor?

Teknolojiyi değil riski düzenliyor. Aynı model, kullanım alanına göre farklı yükümlülüklere tabi olabilir.

Hangi uygulamalar yasak?

Sosyal skorlama, ayrımcı profil çıkarma ve zayıf konumdaki kişileri manipüle etme gibi uygulamalar yasak kapsamındadır.

Türkiye’yi etkiler mi?

Doğrudan bağlayıcılığı yoktur, ancak Türkiye’de faaliyet gösteren ve Avrupa pazarına hizmet veren kurumları fiilen etkileyebilir.

Uyum ne zaman başlamalı?

Projenin başında. Veri yönetimi ve dokümantasyon sonradan eklenirse maliyet çok daha yüksek olur.

Kaynakça

  1. Avrupa yapay zekâ düzenleme çerçevesiEuropean Commission
  2. Yapay zekâ düzenlemesi açıklamalarıEuropean Commission

Bu konuyla ilgili haberler