Daniela Amodei Kimdir? Anthropic’in Başkanı ve Yapay Zeka Güvenliğinin Savunucusu

Daniela Amodei, İtalyan asıllı Amerikalı yönetici ve girişimcidir. 2021’de kardeşi Dario Amodei ile birlikte kurduğu yapay zeka şirketi Anthropic’in kurucu ortağı ve başkanıdır. Şirketin geliştirdiği Claude dil modelleri, büyük dil modelleri pazarının önde gelen ürünlerinden biri haline geldi.

Amodei, önce ödeme teknolojisi şirketi Stripe’ta risk yönetimi ekiplerini yönetti, ardından OpenAI’da güvenlik ve politika başkan yardımcılığı yaptı. Anthropic’i kurma gerekçesi olarak, gelişen yapay zeka sistemlerinin güvenliğine yönelik araştırmalara daha geniş bir alan açmak gerektiği görüşünü işaret eder. Kardeşi genel müdür olarak teknik vizyonu temsil ederken, Amodei şirketin operasyonel ve kurumsal yapısını yönetmektedir.

Bu makalede Amodei’nin kariyeri, Anthropic’in kuruluşu, şirketin güvenlik yaklaşımı ve büyümesi ele alınmaktadır.

Eğitim ve Stripe Yılları

Amodei Kaliforniya’da büyüdü ve Kaliforniya Üniversitesi Santa Cruz’da İngiliz edebiyatı okudu. Eğitiminin teknik olmamasına karşın kariyerini teknoloji sektöründe kurdu; yazılı iletişim ve insan yönetimi becerilerinin teknik ekiplerde vazgeçilmez olduğunu sonraki açıklamalarında vurgulamaktadır.

2010’ların başında ödeme teknolojisi şirketi Stripe’a katıldı; şirketin ilk otuz çalışandan biriydi. Orada sahtecilik ve risk işlemlerini yöneten ekiplerin sorumluluğunu üstlendi; yüksek hacimli ödeme altyapısında insan faktörüyle teknolojiyi birleştiren operasyon deneyimi kazandı. Stripe yılları, onu hızlı büyüyen teknoloji şirketlerinin iç işleyişini öğrenmesi açısından biçimlendirdi. Amodei, sonraki yıllarda bu dönemi, teknik olmayan bir yöneticinin teknoloji şirketinde kurumsal kültür kurma rolünü öğrendiği dönem olarak tanımlamaktadır.

Amodei’nin Stripe’taki çalışmaları, ödeme sahteciliğiyle mücadeleye odaklıydı; bu alanda veri analizi, insan denetimi ve müşteri iletişimini birleştiren süreçler kurdu. Onun ifadesiyle risk yönetimi, yapay zekanın sonraki yıllarda gündeme gelen sorunlarıyla yapısal benzerlik taşır: her iki alanda da sistemler yanılabilir ve kararların nedenleri açıklanmak zorundadır. Bu paralellik, sonraki yıllardaki güvenlik yaklaşımını belirleyen tecrübe olarak değerlendirilir. Amodei ayrıca, Stripe’ın küresel genişleme döneminde operasyonel kültürün nasıl ölçeklendiğine tanıklık etti.

OpenAI Dönemi

Amodei, 2018’de OpenAI’da güvenlik ve politika başkan yardımcısı olarak çalışmaya başladı; kardeşi Dario da şirketin araştırma yönetimindeydi. Görev kapsamında yapay zeka sistemlerinin kötüye kullanımına karşı politika geliştirme, model davranışlarının denetlenmesi ve şirketin kamu iletişimi yer aldı. GPT-3’ün yayımlanması ve büyük dil modellerinin yeteneklerinin hızla artması, güvenlik konusunu teknik bir meseleden toplumsal bir meseleye dönüştürüyordu.

Kardeşler, yapay zeka güvenliği araştırmalarına OpenAI’ın içinde daha fazla kaynak ayrılması gerektiğini düşünüyordu; şirketin ticari ortaklığı ve büyüme hedefleriyle bu öncelik arasındaki dengeyi kurmakta zorlandıklarını sonraki açıklamalarında belirttiler. 2020’nin sonunda Dario Amodei, bir grup araştırmacıyla birlikte OpenAI’dan ayrılma kararını duyurdu; Daniela da aynı yolda ilerledi. Ayrılış, yapay zeka endüstrisinde güvenlik odaklı alternatif şirketlerin doğuşunun simgesi olarak anılır.

Amodei’nin OpenAI’daki ekibi, model davranışlarının yayımlanma öncesi değerlendirilmesinden sorumluydu; bu çalışmalar, sistemlerin kötüye kullanım senaryolarını test etmeyi sistematikleştirdi. Kardeşler, bu dönemde güvenlik boyutuna ayrılan kaynağın şirketin büyüme hızına oranla yetersiz kaldığını düşündü. Sonraki röportajlarda Amodei, ayrılış kararını bu tespitin ürünü olarak anlatır: yapay zekanın gelişim hızını yakından gören bir grup insanın, güvenlik araştırmasını önceliklendiren bir kurum kurması, onlara kaçınılmaz bir adım gibi görünüyordu.

Anthropic’in Kuruluşu

Anthropic, Ekim 2021’de kuruldu; kurucu ekipte Amodei kardeşlerin yanı sıra Tom Brown, Chris Olah, Jared Kaplan, Sam McCandlish ve Jack Clark gibi OpenAI’dan ayrılan araştırmacılar yer aldı. Şirketin adı, insan anlamına gelen anthropos kökünden geliyor ve kuruluş amacını yansıtıyordu: insanlığa uzun vadeli yarar sağlayacak yapay zeka sistemleri geliştirmek. Şirket, kamu yararına odaklı bir şirket yapısını benimsedi.

Anthropic, Mart 2023’te Claude adlı dil modelini tanıttı; model kısa sürede sektörde GPT-4 ile karşılaştırılan bir alternatif olarak konumlandı. Şirketin büyümesinde büyük teknoloji yatırımları belirleyici oldu: Google, 2023’te yaklaşık 300 milyon dolarlık yatırım yaparak şirketin hisselerinin yaklaşık yüzde onunu aldı; Amazon ise aynı yıl başlayan ve sonraki aşamalarla 8 milyar doları aşan taahhüdüyle ana yatırımcı oldu. Şirketin değerlemesi 2024’te 18 milyar doların üzerine çıktı; 2025’teki yatırım turlarıyla bu rakamın 183 milyar dolar düzeyine ulaştığı açıklandı. Claude ürün ailesi, kurumsal müşterilerde yaygın biçimde benimsendi ve şirketin yıllık gelirinin milyarlarca dolar seviyesine ulaştığı bildirildi.

Amodei, bu büyümeyi yönetirken şirketin küçük ekip disiplinini korumaya çalıştığını belirtmektedir. Ona göre güvenlik araştırmasının kalitesi, şirketin büyüme hızından bağımsız bir öncelik olarak korunmalıdır; bu ilke, işe alım ve ürün kararlarında bir filtre olarak işler.

Şirketin kuruluş finansmanı da dikkat çekti: kurucu ekip, erken dönemde geleneksel olmayan kaynaklardan fon topladı ve bu seçim, şirketin yatırımcı baskısından bağımsız bir araştırma gündemi kurma hedefini yansıtıyordu. Anthropic, ilk yıllarında araştırma sonuçlarını yayımlayarak bilimsel topluluğa katkı sundu; davranış hizalama üzerine makaleler, güvenlik literatürünün yaygın kaynakları arasına girdi. Amodei, bu yayımlara ilişkin kararların şirketin güvenlik sorumluluğuyla dengeleyerek alındığını belirtir.

Yapay Zeka Güvenliği Yaklaşımı

Amodei, Anthropic’in kimliğini belirleyen yaklaşımın temelinde model davranışlarını anlama (interpretability) araştırması ve sistematik güvenlik testleri yer aldığını belirtir. Şirket, anayasal yapay zeka adını verdiği yöntemle modellerin davranışlarını ilke metinleriyle hizalamayı hedefler; Claude’un sistem istemlerindeki ilke kümesi bu yaklaşımın ürünüdür. Şirket ayrıca, giderek yetenekli sistemlerin geliştirilmesini ölçülebilir güvenlik eşiğine bağlayan Sorumlu Ölçeklendirme Politikası’nı 2023’te yayımladı ve bu çerçeveyi sonraki modellerinde uyguladı.

Bu yaklaşım, sektördeki rekabet dinamikleriyle gerginlik de içerir. Eleştirmenler, güvenlik söyleminin pazarlama aracına dönüşme riskine dikkat çeker; Amodei ise güvenlik çalışmalarının şeffaflığını artırmanın tek yolunun, gelişmiş sistemleri geliştiren şirketlerin bu sorumluluğu üstlenmesi olduğunu savunur. Kendisi, kadınların ve teknik olmayan arka plana sahip kişilerin yapay zeka yönetimindeki varlığının azlığını da sıkça ele aldığı bir konu olarak gündeme getirmektedir.

Claude’un kurumsal yaygınlığı, şirketin iş modelini hızla büyüttü: kurumsal müşteriler, modelin uzun bağlam ve belge işleme yeteneklerini yazılım geliştirme, hukuk ve finans süreçlerinde kullanmaya başladı. Amodei, ürün stratejisinde derinlik ve güvenilirlik odaklı bir konum savundu; şirketin kurumsal satışında güvenlik vurgusu, ayırt edici bir unsur olarak görüldü. Şirket, kurumsal güvenlik ve yapılandırma özelliklerini ürün ailesinin standardına yerleştirerek, büyümeyi doğrudan güvenlik yaklaşımıyla ilişkilendiren bir anlatı kurdu.

Amodei, güvenlik çalışmalarının ölçülebilirliğini öncelendiğini belirtir: ona göre bir sistemin riski, test edilebilir senaryolarla sınırlandırılmadığında tartışma doğrulanamaz hale gelir. Şirket bu yüzden yetenek eşiklerini, değerlendirme protokolleriyle ve kamu bildirimleriyle eşleştirir. Bu yaklaşım, ABD yönetiminin yapay zeka alanındaki güvenli gelişim taahhütlerine de temel oluşturdu; Anthropic, hükümetle yürütülen gönüllü taahhüt süreçlerinde görünen şirketler arasındaydı. Amodei’ye göre kamu-özel iş birliği, güvenlik araştırmasının ölçeklenmesi için vazgeçilmezdir; düzenleyicilerin teknik gerçekliği izleyebilmesi, şirketlerin şeffaflığına bağlıdır.

Rolü ve Etkisi

Anthropic başkanı olarak Amodei, şirketin insan kaynakları, politika, kamu işleri ve müşteri operasyonlarını yönetir; kurumsal değerlerin günlük karar biçimlerine yansımasından sorumludur. Şirketin birkaç yıl içinde yüzlerce çalışana ve büyük gelir seviyesine ulaşması, operasyonel yönetimin başarısına bağlanır. Amodei, halka açık konuşmalarında kurumsal kültürün teknoloji kadar belirleyici olduğunu savunur; ona göre şirketlerin verdiği kararlar, yapay zekanın toplumsal etkisini model mimarileri kadar şekillendirmektedir.

Amodei’nin kariyeri, teknik olmayan bir eğitim geçmişinin, yapay zeka çağının en etkili şirketlerinden birinin kuruluşunda belirleyici olabileceğini gösteren örneklerden biridir. Stripe’ta risk yönetimi, OpenAI’da politika çalışmaları ve Anthropic’te kurumsal yapı, onun kariyerini insan sistemlerini tasarlama işi olarak tanımladığı bir çizgide birleştirir. 2020’lerin ortasında Anthropic, hem teknik rekabet hem güvenlik tartışmalarının merkezinde yer almaya devam etmektedir; Amodei bu iki düzlemin kesişiminde görünür bir rol üstlenmektedir.

Amodei, kamuoyundaki görünürlüğünü kadınların teknoloji yönetimindeki temsili konusundaki konuşmalara ayırır; ona göre yapay zeka sektörünün yönetim katmanı, teknolojinin etki edeceği toplumun çeşitliliğini yansıtmadığında karar kalitesi düşer. Şirket, insan kaynakları politikalarında bu ilkeyi uygulamaya çalışır. Amodei’nin kariyeri ayrıca, teknik olmayan rollerin teknoloji şirketlerinde ikincil görülmesinin sorgulanması gerektiği yönündeki savunuyla ilişkilendirilir: onun anlatısında politika, iletişim ve operasyon, teknolojinin toplumsal güvenliğini belirleyen teknik disiplinlerdir.