Anthropic Neden OpenAI’dan Ayrılan Bir Ekip Tarafından Kuruldu?

Kurucu ekip ve OpenAI’dan ayrılış

Anthropic’in çekirdeğini, OpenAI’da araştırmacı olarak çalışmış Dario Amodei ile kardeşi Daniela Amodei oluşturdu. Amodei’ler OpenAI’da GPT-2 ve GPT-3 dönemi dil modeli çalışmalarının önemli isimlerindendiler. Ayrılış, tamamen teknik bir anlaşmazlıktan çok kapasitenin ne kadar hızlı büyütüleceği ve güvenlik çalışmalarının nasıl önceliklendirileceği konusundaki farklılığa dayandı.

Ayrılık döneminde sektörde yaygın olan görüş, büyük laboratuvarların benzer nedenlerle yarışan yeni şirketler kurduğuydu. Anthropic’in ayırt edici yanı, kuruluş anında güvenliği bir sonraki adım değil mimari bir gereklilik olarak tanımlamasıydı.

Güvenlik neden kurucu bir değer

Anthropic’in kuruluş metinlerinde öne çıkan fikir, gelişmiş yapay zekânın insanlığa yararı olacağını garanti etmek için baştan güvenliği kurgulamak gerektiği yönündeydi. Kuruluş, güvenlik önce yaklaşımını bir pazarlama sloganı olarak değil model eğitimi ve ürün tasarımı aşamalarına yerleştirilmiş bir süreç olarak tanımladı.

Bu yaklaşım, Anthropic’i yalnızca model yeteneğiyle değil yönetişim ve şeffaflık konusunda farklı konumlandırdı. Kuruluş, araştırma yayınlarını, değerlendirme sonuçlarını ve risk değerlendirmelerini kamuya açık biçimde paylaşmayı taahhüt etti.

Anayasal AI: güvenliği modele öğretmek

Anthropic’in en çok konuşulan yöntemsel katkılarından biri Anayasal AI, yani Constitutional AI yaklaşımıdır. Yöntem, modelin kendi davranışını açık yazılı ilkeler kümesine göre değerlendirmesini sağlayarak insan gözetimini azaltmayı hedefler.

Prosedür kabaca şöyledir: model kendi çıktılarını inceler ve belirli ilkelere uygunluk açısından yorumlar; bu yorumlar daha sonra başka bir aşamada tercih eğitimi için veriye dönüşür. Böylece yardımcı model eğitimi, daha büyük modelin güvenlik davranışını biçimlendırmak için kullanılır.

Bu yaklaşım, Anthropic’in en iddialı kurumsal iddialarından birini teknik bir yönteme bağlamasını sağladı: güvenliği modelin mimarisine ve eğitim sürecine gömülü bir bileşen hâline getirmek.

Claude ve ölçekle güvenlik ilişkisi

Anthropic, Claude modelinde ölçek ile güvenliği birbirinin alternatifi değil birlikte ilerleyen iki eksen olarak ele aldı. Kuruluş, güvenlik değerlendirmelerini ve kırmızı takım çalışmalarını model geliştirme döngüsüne dahil etti.

Claude’un farklı sürümlerinde bağlam penceresi, uzun belge işleme ve araç kullanımı kapasitesi artırıldıkça güvenlik değerlendirmelerinin kapsamı da genişletildi. Bu, büyük dil modeli geliştirmede güvenliğin sonradan eklenen bir kontrol değil sürüm çıktısının ön koşulu olarak yönetildiğinin göstergesidir.

Rakip model ve farklı yönetişim

Anthropic’in yönetişim yapısı, kâr amacı gütmeyen ya da kamu yararına bağlı hedefler dile getirmiştir. Bu, tam anlamıyla kâr amacı gütmeyen olmak anlamına gelmez; kuruluşun uzun vadeli amacını ifade eden bir taahhüt biçimidir.

Kuruluş, özellikle biyoloji ve kimya alanında ön eğitim veri kümelerini karşılıklı taahhütlerle kaldırmayı önerdi. Bu girişim, model eğitiminin biyolojik tehlikelere yol açabilecek bilgiyi nasıl sınırlandıracağı konusundaki tartışmayı doğrudan gündeme taşıdı.

Sık sorulan sorular

Kaynakça

1. Anthropic kurumsal sayfa ve yönetişimAnthropic
2. Constitutional AI: Harmlessness from AI FeedbackAnthropic
3. Claude model ailesi ve güvenlik değerlendirmeleriAnthropic