Giriş yap

Function Calling ve JSON Şema Mekanizması

326 kelime3 dk okuma

Function calling, modele araçların adı, açıklaması ve parametre şeması verilerek, modelin geçerli yapılandırılmış bir çağrı isteği üretmesini sağlamasıdır; uygulama bu isteği çalıştırıp sonucu modele geri verir.

Temel akış

Uygulama, kullanılabilir araçların adlarını, açıklamalarını ve parametre şemalarını modele verir. Model, bu bilgiye dayanarak bir araç çağırmak istediğinde yapılandırılmış bir istek üretir.

Model kodu çalıştırmaz. Ürettiği istek, uygulama tarafından doğrulanır, çalıştırılır ve sonuç yeniden modele verilir. Bu, modelin eylem dünyasıyla temas noktasıdır.

Neden şema gerekli?

Şemalar, modelin yalnızca metin üretmesini engelleyerek yapılandırılmış çıktı üretmesini sağlıyor. Böylece uygulama, isteği güvenilir biçimde ayrıştırabiliyor.

Parametre türleri, zorunlu alanlar ve izin verilen değerler şemada tanımlanıyor. Bu, modelin geçersiz veya tehlikeli çağrılar üretme olasılığını azaltıyor.

Modelin rolü

Modelin işi, hangi aracın çağrılması gerektiğini ve parametrelerin ne olması gerektiğini belirlemektir. Bu, semantik bir karar gerektirir ve modelin güçlü olduğu alandır.

Ancak model, parametre değerlerinde hata yapabilir. Özellikle sayısal veya biçim gerektiren alanlarda dikkatli doğrulama gerekiyor.

Güvenlik sınırları

Modelin çağrıyı üretmesi ile çağrının yürütülmesi arasında güçlü bir doğrulama katmanı olmalı. Modelin isteği mutlaka yetkilendirilmelidir.

Özellikle veri silme, ödeme veya sistem değişikliği gibi geri alınamaz işlemlerde, kullanıcı onayı eklemek önemli bir güvenlik önlemi.

Şema tasarımının önemi

Araç şemalarının kalitesi, doğrudan modelin doğruluk oranını etkiliyor. Belirsiz veya çakışan açıklamalar, yanlış araç seçimine yol açıyor.

Bu nedenle iyi araç tasarımı, az sayıda net araç ve açık parametre adları sunmak. Çok sayıda benzer araç, modelin karar kalitesini düşürüyor.

  • Model araç çağrısını üretir, kod çalıştırmaz
  • Uygulama isteği doğrular ve çalıştırır
  • Şemalar yapılandırılmış ve geçerli çıktı sağlar
  • Geri alınamaz işlemlerde kullanıcı onayı gerekli

Sık sorulan sorular

Function calling tam olarak nasıl çalışıyor?

Uygulama araç tanımlarını modele verir. Model geçerli yapılandırılmış bir çağrı isteği üretir. Uygulama bu isteği doğrular, çalıştırır ve sonucu modele geri verir. Model hiçbir kodu çalıştırmaz.

Model kodu neden çalıştırmıyor?

Model bir dil üreticisidir; kod çalıştırma yeteneği yoktur. Bu, güvenlik açısından önemli bir sınırdır, çünkü modelin kontrolsüz eylemde bulunmasını engeller.

Şema tasarımı neden önemli?

Belirsiz veya çakışan araç açıklamaları yanlış araç seçimine yol açar. Az sayıda net araç ve açık parametre adları sunmak, karar kalitesini doğrudan artırıyor.

Hangi işlemlerde kullanıcı onayı gerekir?

Veri silme, ödeme yapma ve sistem yapılandırması gibi geri alınamaz işlemlerde. Modelin isteği yetkilendirme katmanından geçmelidir.

Kaynakça

  1. Function calling araç kullanımıWikipedia
  2. JSON veri biçimiWikipedia
  3. APIWikipedia
  4. OpenAI fonksiyon çağırmaOpenAI
  5. Yazılım doğrulamaWikipedia

Bu konuyla ilgili haberler