Anthropic випустила Message Threads у публічну бету для платформи Claude

Anthropic випустила Message Threads як публічну бету на платформі Claude. Функція змінює те, як історія розмови надсилається в запитах API: передається лише те, що змінилося з часу останнього повідомлення. Anthropic каже, що це скорочує час до першого токена приблизно на 35 відсотків для запитів від 500 000 до одного мільйона токенів.

Як змінюються запити

Дотепер кожен запит API мусив повторно надсилати всю історію розмови. З Message Threads передається лише змінений вміст, тоді як Claude усе одно читає повну історію розмови. Використання токенів при цьому не змінюється.

Найкращі сценарії використання

Anthropic каже, що найбільше користі отримують агенти для кодування, агенти для роботи з комп'ютером і процеси, що обробляють великі обсяги документів або зображень. Потік залишається зашифрованим у пам'яті між запитами, а строк дії спливає після п'яти хвилин бездіяльності.

Доступність

Функція працює на платформі Claude та через AWS, Microsoft Foundry і Google Cloud. Докладніше в документації.

Джерела: The Decoder