Anthropic, Claude Platformu için Message Threads Betasını Yayınladı

Anthropic, Claude platformunda Message Threads özelliğini genel beta olarak yayınladı. Özellik, API isteklerinde konuşma geçmişinin nasıl gönderildiğini değiştirerek yalnızca son mesajdan bu yana değişen içeriği iletir. Anthropic, bunun 500.000 ile bir milyon token arasındaki isteklerde ilk tokene kadar geçen süreyi yaklaşık %35 azalttığını söylüyor.

İstekler nasıl değişir

Şimdiye kadar her API isteğinin tüm konuşma geçmişini yeniden göndermesi gerekiyordu. Message Threads ile yalnızca değişen içerik iletilir; ancak Claude yine de tam konuşma geçmişini okur. Buna bağlı olarak token kullanımı değişmez.

En uygun kullanım alanları

Anthropic, kodlama ajanlarının, bilgisayar kullanım ajanlarının ve çok sayıda belge veya görüntü işleyen iş akışlarının en fazla yarar sağladığını söylüyor. Message Threads istekler arasında bellekte şifreli olarak kalır ve beş dakikalık hareketsizlikten sonra süresi dolar.

Kullanılabilirlik

Özellik Claude platformunda ve AWS, Microsoft Foundry ile Google Cloud üzerinden çalışır. Daha fazla ayrıntı belgelerde yer alır.

Kaynaklar: The Decoder