Telefonun Öbür Ucunda Kim Olduğunu Söylemek

Sahnede bir telefon görüşmesi

Google I/O 2018’de sahneye çıkan ses, bir kuaförü arayıp randevu aldı; “mm-hmm”lar, duraksamalar ve “biraz sıra var mı” gibi insanî dolgu sesleri duyuldu. Demo, teknik bir başarıdan çok retorik bir andı: makinenin en insana benzeyen kanalı seçilmişti — telefon.

Aynı hafta yayınlanan yazılı kayıtta, karşı taraf “sen robot musun” diye sorduğunda sistemin “bu aslında otomatik bir sistem” cevabı verdiğine dikkat çekildi. Google, o anın önceden ayarlanmış bir cevap değil, sistemin kendini düzelttiğini söyledi; ayrıntı, tartışmanın fitilini ateşledi.

İfşa kuralının doğuşu

Tepkiler üzerine Google, “dürüstlük ilkesi”ni formüle etti: karşı taraf doğrudan sorarsa, sistem otomatik olduğu söyleyecekti. Dönemin yöneticisi, tasarımı “ifşa yerleştirilmiş” olarak niteledi; yani etik, bir ürün ayarı olarak değil, bir diyalog davranışı olarak tanımlandı.

Bu, ajan tarihindeki ilk yazılı “kendini tanıtma” standardı. Yeterli miydi? Eleştirmenlerin dediği kadar hayır: ifşa yalnızca sorulduğunda geliyorsa, sormayanın hakkı korunmuyor. Ayrıca küçük işletmeler için “gerçek kişi gibi arayan” bir sistem, telefon dolandırıcılığı endişesiyle aynı cümleyi paylaşıyordu.

Ürünün ömrü ve sessiz vedası

Sistem 2019 yazında ABD’de Assistant kullanıcılarına açıldı; önce kuaför randevuları, sonra restoran rezervasyonları ve işletme hatlarına yanıt verme geldi. 2020’de İngiltere gibi pazarlarda “açılış saatini soran” biçimde kullanıldı; yani en başarılı hâli, randevu değil, basit bilgi tekrarı oldu.

2023’te Google, tüketici tarafındaki randevu arama işlevini Assistant’ın yeni özelliklerine devretti. Emekliliğin tam tarihi ve kapsamı, şirket duyurularından bağımsız olarak doğrulanamadı; bilinen, Duplex markasının ürün sayfasından çekilmesi ve işlevin daha geniş bir sesli hat içinde erimesi.

Etik gerilimin üç ekseni

Bir: vekâlet. Telefon, kişisel bir kanal; “ben arıyorum” ile “ajanım arıyor” arasındaki fark, karşı taraf için anlam taşıyor. İki: asimetri. Arayan taraf onay veriyor, aranan taraf vermiyor; rıza, sadece bir uçta üretiliyor.

Üç: kayıt. Görüşmenin kaydedilmesi, eyalet/hukuk bölgesi kurallarına göre değişiyor; tek taraflı onay yetmeyebiliyor. Bu üç eksen, 2018’de teknik bir demo olarak sunulan şeyin aslında bir sözleşme tasarımı problemi olduğunu gösterdi.

Kuralın bugün hâlâ teamül düzeyinde kalmasının ölçülebilir bir nedeni var: ifşayı ilk cümleye yazan satıcı sayısı, ifşayı “sorulursa” şartına bağlayan sayıdan az. Arayan tarafın maliyeti sıfıra inerken, aranan tarafın sorgulama maliyeti aynı kaldı.

Bugünkü ajanlara kalan

Aynı sorun, bugün çok daha büyük bir hacimde geri döndü: satış geliştirme botları, sigorta aramaları, “telefonuma çık” davetleri. Fark, kuralın artık standart olması: iyi kurulum, arayanın kim olduğunu ilk cümlede söyler. Duplex’in kalıcı mirası, bu cümleyi icat etmesi.

İkinci miras, gecikme bütçesi: doğal bir konuşma için yüz milisaniye penceresi, sesli ajanların en sert fiziksel kısıtı. Üçüncü miras ise onay mimarisi: bir ajanın kimin adına, hangi sınırla konuştuğu, ürünün değil sözleşmenin konusu.

Sık sorulan sorular

Kaynakça

1. Google Duplex: An AI system for accomplishing real-world tasks over the phoneGoogle Research
2. Google’s ‘deceitful’ AI assistant to identify itself as a robot during callsThe Guardian
3. Google says it’s designing Duplex with ‘disclosure built-in’CNET
4. Google Duplex AI arrives in UKBBC