Giriş yap

Gizli Oylamaların Şirketi: Bir Yapay Zekâ Laboratuvarında Kontrol

414 kelime3 dk okuma

Yapay zekâ laboratuvarlarında yönetim kurulu, teknik bir denetim organından çok, yön belirleyen bir siyasi kurul; üye profili ve hesap verebilirlik yokluğu, kriz anında kararı kişiselleştiriyor.

Bir gece yarısı kararı

Kasım 2023’te OpenAI’ın yönetim kurulu, CEO’yu “kurula şeffaf olmadığı” gerekçesiyle görevden aldı. Karar, şirketin kamusal varlıklarını tek kalemde sarsacak hızda alındı ve dokuz gün içinde geri alındı.

Bu kısa süre, bir yapay zekâ şirketinin gerçekten kim tarafından yönetildiğini gösteren bir deney oldu. Sonucu belirleyen kurul değil, çalışanların imza kampanyası ve ana yatırımcının baskısıydı.

Kim kimi seçiyor

Karmaşık yapının özü şu: kâr amacı gütmeyen ana varlık, kendi mütevelli heyetini kendisi seçiyor. Yani milyonlarca dolar koymuş yatırımcı, kural olarak kurulu doğrudan belirleyemiyor.

Bu tasarım, misyonu sermayeden korumak için kuruldu. Pratikte ise hesap verebilirliği belirsiz bir özerklik üretti: kimse seçmediği bir kurulu görevden alamıyor.

Üye profili kuralı

Krizin ardından şirket, kurul üyelerinin yatırım çıkarı olmaması gibi kısıtlar tanımladı. Amaç, bir üyenin kendi portföyünü etkileyen bir oylamada tarafsız kalmasını güvence altına almak.

Ancak aynı kural, pratikte nitelikli üye havuzunu daraltıyor. Sektörü bilen insanlarla sektörde çıkarı olmayan insanlar, büyük ölçüde ayrı kümeler. Bu gerilim çözülmüş değil.

Denetçi kurum tartışması

Bu tip bir olayın tekrarlanmaması için sektörde bir “sivil havacılık otoritesi” benzeri bağımsız denetim öneriliyor: standartları bir kurum yazsın, şirketler uysun, ihlal kamuya bildirilsin.

Şirket tarafı bu fikre açık; ancak bunun gönüllü mü yoksa zorunlu mu olacağı, düzenleyici takvime bağlı. Bugün yükümlülük, eyalet ve ülke bazında parçalı.

Kurul masasında hangi kararlar var

Bir yapay zekâ kurulunun gerçek gündemi, teknik raporlardan çok üç soruda toplanıyor: hangi model ne zaman yayınlanacak, hangi pazarlığa girişilecek ve kritik bir olayda kim sorumlu.

Yayın kararı, bir güvenlik değerlendirmesinin üzerine yazılan bir ticaret kararı. Bu ikisi çeliştiğinde, kuruldaki ağırlık belirliyor. Üye profili, tam da bu yüzden politik.

Şeffaflığın maliyeti

Kapalı oylamalar, ticari sır ve pazarlık gücü açısından savunulabilir. Ancak kamusal etki büyüdüğünde, aynı kapalılık meşruiyet kaybediyor. Bu, yapay zekâ yönetişiminin temel çelişkisi.

Sektördeki olası uzlaşma, kararların değil gerekçelerin kamuya açılması: hangi ilkeye göre karar verildiğini yayımlamak, müzakerenin içeriğini gizli tutmak. İlk adım, raporlama standardı.

Sık sorulan sorular

OpenAI yönetim kurulu kimi seçer?

Kâr amacı gütmeyen ana varlığın mütevelli heyeti kendi üyelerini kendisi seçer. Bu, yatırımcının kurulu doğrudan belirlemesini engelleyen bir tasarımdır.

2023’te tam olarak ne oldu?

Kurul CEO’yu görevden aldı; çalışanlar toplu istifa tehdidiyle karşı çıktı, ana yatırımcı müdahil oldu ve kurul dokuz gün içinde kararı geri alıp üyelerin bir kısmını değiştirdi.

Neden denetçi kurum öneriliyor?

Kararlar kapalı alındıkça kamusal güven azalıyor. Havacılık gibi standart yazan, denetim yapan ve ihlali açıklayan bağımsız bir yapı, en sık önerilen çözüm.

Yatırımcı neden bu kadar etkili oldu?

Çünkü fiili güç, teknik yetkide değil sermaye ve altyapı bağımlılığında. Bulut ortağının pozisyonu, kağıt üstü yönetişim kurallarını pratikte devre dışı bırakabildi.

Kaynakça

  1. OpenAI yönetim yapısı ve kurumsal duyurularıOpenAI
  2. Yönetim kurulu krizi ve sonuçlarıReuters
  3. Yapay zekâ yönetişimi analizleriMIT Technology Review

Bu konuyla ilgili haberler