Ajanlarda Bellek Hiyerarşisi ve Hafıza Tasarımı
Etkili ajan bellekleri üç katmanlı bir yapı kullanır: kısa vadeli çalışma bağlamı, oturum boyunca süren durum bilgisi ve kalıcı anlamsal bilgi; her katman farklı bir saklama ve erişim biçimi gerektirir.
Farklı ömürler
Bir ajanın ihtiyaç duyduğu bilgi farklı ömürlere sahip. Anlık görev bilgisi yalnızca şu anda kullanılır, kullanıcı tercihleri ise aylarca geçerli olabilir.
Bu bilgileri tek bir yerde tutmak, hem bağlam şişmesine hem de ilgisiz bilginin dikkat dağıtmasına yol açar. Katmanlı bir yapı bu sorunu çözüyor.
Çalışma bağlamı
İlk katman, o anda yürütülen görevin bilgisidir. Sistem istemi, mevcut mesaj geçmişi ve ara sonuçlar burada tutulur.
Bu katman en hızlı erişilen ve en kısa ömürlü olanıdır. Pencere dolduğunda özetlenerek veya temizlenerek yer açılır.
Oturum durumu
İkinci katman, konuşma boyunca oluşan ve bir sonraki adımda kullanılan bilgidir. Kullanıcının kim olduğu, neleri denediği, hangi yaklaşımın işe yaramadığı burada tutulur.
Bu katman, ajanın aynı hatayı tekrar etmesini önler. Oturum sonunda kalıcı belleğe aktarılması gereken kısımlar ayrıştırılır.
Kalıcı anlamsal bilgi
Üçüncü katman, kullanıcı hakkında uzun vadeli bilgidir. Tercihler, geçmiş projeler ve kurum kuralları burada saklanabilir.
Bu katmanın yazımı seçici olmalıdır. Her şeyi kalıcı kaydetmek, yanlış ve alakasız hatıraların birikmesine yol açar.
Ne zaman hatırlamak sorusu
En büyük tasarım sorusu, hangi bilginin hangi katmana yazılacağıdır. Çok az yazmak, ajanın geçmişi unutmasına yol açar.
Çok fazla yazmak ise bağlam şişmesine ve yanlış hatırlamaya yol açar. Seçici yazım, çoğu sistemde en sağlıklı yaklaşım olarak görünüyor.
- Farklı ömürlere sahip bilgi, farklı katmanlarda tutulmalı
- Çalışma bağlamı en kısa ömürlü ve en hızlı erişilen katmandır
- Oturum durumu, ajanın hataları tekrarlamasını önler
- Kalıcı bellek seçici yazılmalı, her şey kaydedilmemeli
Sık sorulan sorular
Ajan belleği neden katmanlı olmalı?
Farklı bilgiler farklı ömürlere sahiptir. Tek bir yerde tutmak bağlam şişmesine ve ilgisiz bilginin dikkat dağıtmasına yol açar. Katmanlı yapı her bilgiyi doğru ömürle saklıyor.
Oturum durumu neden önemli?
Ajanın konuşma boyunca öğrendiklerini saklamasını sağlıyor. Bu, aynı hatayı tekrar etmesini ve kullanıcının daha önce söylediği şeyleri yeniden sormasını önlüyor.
Her şeyi kalıcı belleğe yazmalı mıyım?
Hayır. Bu, yanlış ve alakasız hatıraların birikmesine yol açar. Seçici yazım, çoğu sistemde en sağlıklı yaklaşım olarak görünüyor.
En büyük tasarım zorluğu nedir?
Hangi bilginin hangi katmana yazılacağına karar vermek. Çok az yazmak unutmaya, çok fazla yazmak bağlam şişmesine ve yanlış hatırlamaya yol açıyor.
Kaynakça
- Ajan teknolojileriWikipedia
- Beyin belleğiWikipedia
- Bağlam penceresiWikipedia
- Çoklu ajan sistemleriWikipedia
- Anlamsal bellekWikipedia
Bu konuyla ilgili haberler
- Cohere’den Kurumsal Devrim: Oturumlar Arası Hafızaya Sahip North 2 AI Ajan Platformu Tanıtıldı!
- OpenAI’ın Kaçak Ajan Faturası Ağırlaştı: Siber Adli Soruşturma Günde 500 Bin Dolar Yutuyor!
- Kaliforniya Başsavcısından OpenAI’ye Tarihi Siber Soruşturma Celbi: Kaçak Ajan Krizi Büyüyor!
- Kod ve Tasarım Becerisine Son: Shopify Canvas ile Sohbet Ederek Mağaza Kuruluyor!