Amazon Bedrock, Anthropic Claude Modelleri için Yapılandırılmış Çıktıları Ekliyor

Yenilikler

Amazon Bedrock artık hem bedrock-runtime hem de bedrock-mantle uç noktalarındaki tüm Anthropic Claude modelleri için yapılandırılmış çıktıları destekliyor. Geliştiriciler, özel ayrıştırma, yeniden deneme mantığı veya son işleme olmadan tanımlı bir yapıya uygun, şemaya uyumlu JSON yanıtları alabilir.

İki tamamlayıcı mekanizma sunulmaktadır: veri çıkarma ve rapor oluşturma sırasında yanıt yapısını kontrol etmek için JSON Schema çıktı biçimi ve ajan iş akışları ile çok adımlı otomasyonda araç parametrelerini doğrulamak için katı araç kullanımı.

Nasıl Çalışır

Yapılandırılmış çıktılar, JSON şemalarını daha sonra değil, jeton üretimi sırasında uygulamak için kısıtlı çözümleme kullanır. Amazon Bedrock, şemaları JSON Schema Draft 2020-12 alt kümesine karşı doğrular, yeni şemalar için bir dilbilgisi nesnesi derler ve derlenen dilbilgilerini hesap kapsamında 24 saat için önbelleğe alır. Şema yapısının değiştirilmesi önbelleği geçersiz kılır; yalnızca ad veya açıklama alanlarının değiştirilmesi önbelleği bozmaz.

Bu özellik toplu çıkarım, bedrock-runtime üzerinde bölgeler arası çıkarım ile çalışır ve türü belirtilmiş olaylar olarak akan yapılandırılmış yanıtları destekler.

Kullanım Senaryoları ve Örnekler

Pratik uygulamalar finansal raporlardan ve uyumluluk belgelerinden alan çıkarmayı, klinik notların EHR sistemlerine ayrıştırılmasını, sözleşmelerin analizini ve destek kayıtlarının yönlendirilmesini içerir. InvokeModel API ile Claude Sonnet 5.5 kullanılan bir örnek, bir müşteri e-postasından aday verilerini doğrulanmış JSON alanlarına çıkarmayı gösterir.

bedrock-mantle üzerinde katı araç kullanımı, araç parametrelerinin girdi şemalarıyla birebir eşleşmesini sağlar. strict alanının true olarak ayarlanması, modelin şema dışı alanlar eklemesini engeller; bu durum sunucu tarafı araçlara sahip ajan iş akışları için değerlidir.

Gereksinimler ve En İyi Uygulamalar

Geliştiriciler tüm nesnelerde additionalProperties değerini false olarak ayarlamalıdır. En iyi uygulamalar arasında açıklayıcı alan adları kullanmak, kısıtlı değerler için enum uygulamak, temel şemalarla başlamak, önbellek yararından yararlanmak için şemaları yeniden kullanmak, her yanıtta stop_reason değerini kontrol etmek ve dağıtımdan önce gerçekçi verilerle test etmek yer alır.

Desteklenen özellikler temel türleri, enum, const, anyOf, kısıtlamalı allOf, iç başvurular ve çeşitli dize biçimlerini içerir. Özyineli şemalar, dış başvurular ile sayısal veya dize kısıtlamaları üretim sırasında uygulanmaz.

Amazon Bedrock üzerinde Claude için yapılandırılmış çıktılar artık genel olarak kullanılabilir durumdadır.

Kaynaklar: AWS Machine Learning Blog