Uyanma Kelimesinin Ardındaki İnsan Kuyruğu

Nasıl çalışıyor, ne saklıyor

Echo, uyanma kelimesini cihazda bekler; kelime duyulduktan sonra ses kaydına alınır ve bulutta metne çevrilir. Mimarinin kritik noktası, uyanma tespitinin hatalı olabilmesi: benzer heceler, televizyon sesi ya da öksürük, kaydı başlatabilir. Amazon’un 2019’da açıkladığı gibi “değerlendirme için” seçilen örnekler, işte bu hatalı tetiklemelerin içinden çıkar.

Saklama tarafı da kullanıcıya görünmez: kayıtlar varsayılan olarak saklanır, geçmiş listelenir, silme tek tek ya da aralıklarla yapılır. Yani cihazın “dinliyor” olması değil, dinlediklerinin bir arşive dönüşmesi mesele.

2019 ifşası ve şirketin geri dönüşü

Bloomberg, 10 Nisan 2019’da dünyanın dört bir yanından yaklaşık bin sözleşmeli çalışanın Alexa kayıtlarını dinleyip yazıya döktüğünü yazdı; işin bir kısmı, cinsel içerikli konuşmalar, hastane sohbetleri ve suç itirafları gibi istisnaları da içeriyordu. Amazon, bunun küçük bir örneklem olduğunu ve “gizliliği koruma” hedefiyle yapıldığını savundu.

Tepki hızla ürün kararına dönüştü: 2019 ağustosunda kullanıcılar insan değerlendirmesini kapatabildi; Almanya’da Hamburg veri koruma otoritesinin müdahalesi sonrası ülke genelinde insan değerlendirmesi durduruldu. Aynı yıl bir üniversite araştırmasının sızdırdığı on milyonlarca komutluk veri seti, “anonim” verinin ne kadar az anonim olduğunu hatırlattı.

Kayıtların adliyesi

Sesli asistan, hukukta yeni bir delil türü oldu: evin içinde, kapanmayan bir mikrofon. Teksas’ta bir cinayet soruşturmasında polisin arama izniyle Alexa kayıtlarına ulaşması, tanık koruma ve bilirkişi itirazlarını birlikte tetikledi; insan hakları örgütleri, bu materyalin “ev içi gözetim kaydı” olarak muamele görmesi gerektiğini savundu.

Düzenleyici taraf daha doğrudan vurdu: 19 Temmuz 2023’te FTC ve Adalet Bakanlığı, Amazon’un çocukların ses kayıtlarını ebeveyn onayı olmadan sakladığını ve silme taleplerini karşılamadığını belirterek 25 milyon dolarlık sivil para cezası ve silme yükümlülüğü getiren bir uzlaşmayı açıkladı. Lüksemburg’da Alexa bağlantılı yaklaşık 32,5 milyon avroluk ceza ise haber kaynaklarına dayanan, resmî olarak sınırlı doğrulanmış bir başka dosya olarak anılıyor.

Kullanıcının elindeki araçlar

Fiziksel sessiz düğme, mikrofonları devre dışı bırakıyor ve bunu bir ışıkla söylüyor: güven, kâğıt üstü bir taahhüt değil, görünür bir durum ışığı. Sesli komutla “bugünkü kaydı sil”, “tüm geçmişi sil” seçenekleri ve otomatik silme aralıkları, arşivi yönetmenin pratik yolları.

Ama bu araçların bir sınırı var: cihaz sustuğunu iddia ediyor, kanıtlayamıyor. Ağ trafiği, zaman damgası ya da bağımsız ölçüm olmadan kullanıcı, “kapalı” durumuna inanmak zorunda. Mahremiyet mühendisliğinde bu, “doğrulanabilir sessizlik” eksikliği olarak adlandırılır.

Bugüne kalan

Sesli asistan tartışması, 2019’da insan transkripsiyonu ile ilgiliydi; bugün aynı arşiv, sohbet geçmişi ve model eğitimi sorusuna taşındı. Şirketler artık “insan dinliyor mu” yerine “veri eğitime gidiyor mu”yu cevaplıyor; iki soru da aynı gövdenin hastalıkları.

Kural netleşti: toplanan veri silinebilir olmalı, saklama süresi seçimli olmalı, üçüncü tarafla paylaşım kapalı devre olmalı. Akıllı hoparlör, bu üçlünün laboratuvarı oldu; Windows Recall gibi yeni yüzeyler de aynı dersten geçiyor.

Sık sorulan sorular

Kaynakça

1. Amazon Workers Are Listening to What You Tell AlexaBloomberg
2. Amazon Gives Option to Disable Human Review on AlexaBloomberg
3. Amazon agrees to $25 million civil penaltyU.S. Department of Justice
4. Alexa, Echo Devices, and Your PrivacyAmazon
5. Smart speaker recordings reviewed by humansBBC