Amazon Bedrock-ს Anthropic Claude-ის მოდელებისთვის სტრუქტურირებული გამოსავლები დაემატა

რა არის ახალი

Amazon Bedrock-ს ახლა Anthropic Claude-ის ყველა მოდელისთვის სტრუქტურირებული გამოსავლები აქვს როგორც bedrock-runtime, ისე bedrock-mantle endpoint-ებზე. დეველოპერებს შეუძლიათ მიიღონ სქემას შესაბამისი JSON პასუხები, რომლებიც განსაზღვრულ სტრუქტურას ემთხვევა, კუსტომური პარსინგის, განმეორებითი ცდის ლოგიკისა და დამატებითი დამუშავების გარეშე.

ხელმისაწვდომია ორი ერთმანეთის შემავსებელი მექანიზმი: JSON Schema-ის გამოსავლის ფორმატი, რომელიც პასუხის სტრუქტურას აკონტროლებს მონაცემების ამოღებისა და რეპორტების გენერაციისას, და tool-ების მკაცრი გამოყენება, რომელიც tool-ების პარამეტრებს ამოწმებს აგენტურ სამუშაო პროცესებში და მრავალსაფეხურიან ავტომატიზაციაში.

როგორ მუშაობს

სტრუქტურირებული გამოსავლები იყენებენ constrained decoding-ს, რათა JSON სქემები ტოკენების გენერაციის დროს დაწესდეს და არა მოგვიანებით. Amazon Bedrock სქემებს ამოწმებს JSON Schema Draft 2020-12-ის ქვეჯგუფის წინააღმდეგ, ახალი სქემებისთვის ქმნის გრამატიკის არტეფაქტს და კომპილირებულ გრამატიკებს 24 საათით ქეშირებს ანგარიშის ფარგლებში. სქემის სტრუქტურის შეცვლა ქეშს აუქმებს, ხოლო მხოლოდ name ან description ველების შეცვლა მას უცვლელად ტოვებს.

ფუნქცია მუშაობს პაკეტურ ინფერენსთან და bedrock-runtime-ზე რეგიონთაშორის ინფერენსთან, ასევე მხარს უჭერს სტრუქტურირებული პასუხების სტრიმინგს ტიპიზებული მოვლენების სახით.

გამოყენების შემთხვევები და მაგალითები

პრაქტიკული გამოყენება მოიცავს ველების ამოღებას ფინანსური რეპორტებიდან და შესაბამისობის დოკუმენტებიდან, კლინიკური ჩანაწერების EHR-ის სისტემებში პარსინგს, კონტრაქტების ანალიზს და მხარდაჭერის ტიკეტების მარშრუტიზაციას. InvokeModel API-სა და Claude Sonnet 5.5-ზე დაფუძნებული მაგალითი აჩვენებს, როგორ ამოიღება lead-ის მონაცემები კლიენტის ელფოსტიდან ვალიდირებულ JSON ველებში.

bedrock-mantle-ზე tool-ების მკაცრი გამოყენება უზრუნველყოფს, რომ tool-ების პარამეტრები ზუსტად ემთხვეოდეს შემავალ სქემებს. strict პარამეტრის true-ზე დაყენება ზღუდავს tool-ების შემავალ მონაცემებს, რის გამოც მოდელი სქემის გარეთ ველებს ვერ დაამატებს; ეს განსაკუთრებით გამოსადეგია აგენტური სამუშაო პროცესებისთვის server-side tool-ებთან.

მოთხოვნები და საუკეთესო პრაქტიკა

დეველოპერებმა ყველა object-ზე additionalProperties უნდა დააყენონ false-ზე. საუკეთესო პრაქტიკა მოიცავს აღწერითი ველების სახელების გამოყენებას, enum-ის გამოყენებას შეზღუდული მნიშვნელობებისთვის, ძირითადი სქემებით დაწყებას, სქემების ხელახლა გამოყენებას ქეშირების უპირატესობის მისაღებად, stop reasons-ის შემოწმებას ყველა პასუხში და რეალისტურ მონაცემებზე ტესტირებას გაშვებამდე.

მხარდაჭერილი ფუნქციები მოიცავს ძირითად ტიპებს, enum-ს, const-ს, anyOf-ს, შეზღუდვებით allOf-ს, შიდა references-ს და სხვადასხვა string ფორმატს. რეკურსიული სქემები, გარე references და რიცხვითი ან string შეზღუდვები გენერაციის დროს არ აღსრულდება.

Amazon Bedrock-ზე Claude-ისთვის სტრუქტურირებული გამოსავლები ახლა ზოგადად ხელმისაწვდომია.

წყაროები: AWS Machine Learning Blog