Giriş yap

MyCity: Devletin Hukuki Tavsiye Veren Sohbet Botu

552 kelime3 dk okuma

New York Belediyesi’nin MyCity sohbet botu, haber odalarının testlerinde işletmelere yasa dışı öneriler ve uydurma prosedürler sıraladı; belediye botu yayından kaldırmadı ve olay, yapay zekânın hukuki tavsiye ya da yargı işlevi üstlenemeyeceği tartışmasını büyüttü.

Bot kimin için yapıldı?

MyCity, New York Belediyesi’nin küçük işletmelere izin, ruhsat, vergi ve işyeri kuralları hakkında yol göstermek için kurduğu dijital platform. Sohbet botu katmanı, belediyenin sonbahar 2023’te duyurduğu “Sorumlu Yapay Zekâ Planı” döneminde kullanıma açıldı; şehir bu çerçeveyi kamu hizmetinde ilk kapsamlı kurallar bütünü olarak tanıttı.

İşin zor tarafı, kural metinlerinin yoruma açık olması: bir kafe sahibi “garsonların bahşişini işyeri tutabilir mi?” diye sorduğunda yanıt tek bir maddeden değil, birden çok yönetmeliğin birleşiminden çıkmalı. Model ise bunu düz bir “evet” ya da “hayır” cümlesine indirgiyor.

Haber odaları botu test etti

The Markup ve The City Reporter’ın Mart 2024 tarihli haberleri, botun gerçek işletme senaryolarında yanlış ve yasadışı öneriler ürettiğini gösterdi: işverenlere çalışanların bahşişlerini tutabileceklerini, ev sahiplerine de kiracı seçerken ayrımcılığa varan sınırlar koyabileceklerini söyledi.

Muhabirler ayrıca botun var olmayan başvuru yolları ve prosedürler tarif ettiğini, bazı yanıtların belediyenin kendi rehberleriyle çeliştiğini yazdı. Belediyenin kendi uyarı notu yanıtların hatalı olabileceğini söylüyordu; buna rağmen bot, resmî site üzerinden işletmelere rehberlik etmeye devam etti.

Şehir botu neden indirmedi

Reuters ve StateScoop’un Nisan 2024 haberlerine göre belediye botu yayından kaldırmadı. Savunma şu cümleye dayanıyordu: aksaklıklar laboratuvarda değil gerçek ortamda giderilir. Adams yönetimi, kullanıcının nihai sorumluluğu kendisinin taşıdığını da vurguladı.

Hukukçular tersini söyledi: bir kurumun resmî kanalı yanlış bilgi verdiğinde, kullanıcının “ben kontrol etmeliydim” savunması ile kurumun sorumluluğu arasındaki çizgi net değil. Botun tavsiyesine uyup ceza yiyen bir işletme sahibinin kime, hangi hukuka dayanarak başvurabileceği belirsiz kaldı.

Mahkeme salonunda yapay zekâ

Tartışma belediye botlarıyla sınırlı değildi. 2023’ten itibaren avukatlar, uydurma içtihat alıntıladıkları dosyalar nedeniyle mahkemelerce cezalandırıldı. Nisan 2026’da Sullivan & Cromwell, mahkemeye sunduğu dosyada yapay zekâ kaynaklı “halüsinasyon” hataları bulunduğunu kabul edip özür diledi; haber hem New York Times hem Reuters’ta aynı gün yer aldı.

Aynı baharda Yüksek Mahkeme’deki Jules v. Andre Balazs Properties duruşmasında Yargıç Samuel Alito, “davayı Claude’a mı soralım” diye espri yaptı; haber, dava henüz karara bağlanmamışken yayımlandı. Şaka tam da tartışmanın merkezine dokunuyordu: kimse bir modelin gerekçeli karar yazamayacağını iddia etmiyordu, ama herkes bunu istemiyordu.

“AI yargıç” fikrinin sınırları

Bir dil modeli kural metnini okuyabilir, özetleyebilir ve emsalleri sıralayabilir; üstlenemediği şey sonuçtur. Yargılama, tarafların iddialarını tartmak, gerekçe yazmak ve yazılan gerekçeden sorumlu olmak demek. Sorumluluk ise bir modelde değil, imzayı atan kişide duruyor.

MyCity örneği bu yüzden simgesel: bir kamu kurumu, sorumluluğu kendisinde tutmadan cevap veren bir arayüz açtığında hata “kullanıcı hatası” olmaktan çıkıyor. Aşağıdaki maddeler, tartışmanın geldiği yeri özetliyor.

  • Bot kuralı okuyabilir ama sorumluluğu üstlenemez
  • Uydurulan prosedür, yanlış prosedürden daha zararlıdır
  • Kamu kurumunun hatası, özel sitenin hatasından farklı ağırlık taşır
  • Uyarı notu, hatalı tavsiyenin hukuki sonucunu silmiyor
  • Mahkemeler yapay zekâyı şimdilik asistan rolüyle sınırlı tutuyor

Sık sorulan sorular

MyCity botu gerçekten yasadışı mı tavsiye verdi?

Haber odalarının testlerinde bot, işverenlere bahşişleri tutabileceklerini ve ev sahiplerine kiracı seçiminde ayrımcı sınırlar uygulayabileceklerini söyledi. Belediye bu yanıtların hatalı olduğunu kabul etti ve düzeltme yaptı.

Belediye botu kapattı mı?

Hayır. Şehir botu yayında bıraktı; hataların gerçek kullanım ortamında giderileceğini savundu. Arayüzde yanıtların hatalı olabileceğini söyleyen bir uyarı notu bulunuyor.

Alito’nun Claude sözü ciddi bir öneri miydi?

Hayır, Mart 2026’daki Jules v. Andre Balazs Properties duruşmasında söylenmiş bir espriydi. Dava o sırada henüz karara bağlanmamıştı; espri, yapay zekânın karar verici rolü tartışmasını özetlediği için haber oldu.

Bir işletme sahibi bu yanıtlara güvenirse ne olur?

Kurumun resmî kanalından gelen hatalı bilginin sorumluluğu net değil. Uzmanlar, uyarı notunun kullanıcının kontrol yükünü kaldırmadığını, ancak kamusal bir hizmette hatanın kuruma yazılabileceğini söylüyor.

Kaynakça

  1. NYC’s AI Chatbot Tells Businesses to Break the LawThe Markup
  2. NYC AI Chatbot Touted by Adams Tells Businesses to Break the LawThe City Reporter
  3. After giving wrong answers, NYC chatbot to stay online for testingStateScoop
  4. New York City defends AI chatbot that advised entrepreneurs to break lawsReuters
  5. Mayor Adams Releases First-of-Its-Kind Plan for Responsible Artificial Intelligence UseNYC Mayor’s Office
  6. SCOTUS Justice Alito Jokes About Letting Claude AI Decide CaseBusiness Insider
  7. Jules v. Andre Balazs Properties (25-83)SCOTUSblog
  8. A.I. ‘Hallucinations’ Created Errors in Court Filing, Top Law Firm ConcedesThe New York Times

Bu konuyla ilgili haberler