OpenAI Codex-ის ინტეგრაცია Amazon Bedrock-თან მოდელების ინფერენსიისთვის კორპორატიულ გარემოში

Amazon Web Services-მა გამოაქვეყნა სახელმძღვანელო OpenAI Codex-ის Amazon Bedrock-ის ინფერენსის ბექენდით გაშვების შესახებ მხარდაჭერილი OpenAI მოდელებისთვის. პოსტში აღწერილია სამი გზა, რომლებიც პლატფორმის გუნდებს AWS-ის არსებული იდენტობის, უსაფრთხოებისა და დაკვირვებადობის პრაქტიკების შენარჩუნების საშუალებას აძლევს და დეველოპერებს Codex-ზე წვდომას აძლევს სამუშაო სადგურებზე.

Codex-ის Bedrock-ზე გაშვების სამი გზა

უმარტივესი გზაა Native AWS Access, რომელიც IAM Identity Center-ს იყენებს თანამშრომლების შესვლისა და დროებითი კრედენშელებისთვის. დეველოპერები შედიან არსებული იდენტობის პროვაიდერით, Codex კი პირდაპირ მიმართავს Amazon Bedrock Runtime-ს. მეორე გზა, AgentCore Gateway, გვთავაზობს AWS-ის მიერ მართულ გეითვეის ინფრასტრუქტურას ცენტრალიზებული მარშრუტიზაციისა და Amazon Bedrock Guardrails-ისთვის. მესამე გზა, LLM Gateway, შეეფერება ორგანიზაციებს, რომლებიც უკვე მართავენ გეითვეის ან სურთ კონტროლის დაწესება მოთხოვნის გზაზე; მორგებული ინტეგრაცია ამ ვარიანტის გაფართოებული ვერსიაა. თითოეული გზა კონტროლის სხვადასხვა საჭიროებას პასუხისმგებელ გუნდთან აკავშირებს, სახელმძღვანელო კი გვირჩევს დავიწყოთ ყველაზე ნაკლებად რთული გზით, რომელიც მოთხოვნას აკმაყოფილებს.

პილოტის ვალიდაცია და იდენტობის იზოლაცია

სახელმძღვანელო იწყება მცირე პილოტით მინიმალური უფლებებით. წინაპირობებია პილოტის მომხმარებლების დამატება თანამშრომლების იდენტობის სისტემის სპეციალურ ჯგუფში, IAM Identity Center-ზე პროვიზირება, Amazon Bedrock-ის რეგიონისა და ხელმისაწვდომი OpenAI მოდელის, მაგალითად GPT-5.6 Sol-ის არჩევა და მხოლოდ საჭირო ინფერენსის ნებართვების მინიჭება. პილოტი ამოწმებს AWS-ზე წვდომას Bedrock Runtime-ის პირდაპირი გამოძახებით, Codex-ის პროვაიდერს დამტკიცებული მოდელისა და პროფილის გამოსაყენებლად აყენებს და უსაფრთხო, მხოლოდ კითხვის რეჟიმის დავალებას ასრულებს არასაწარმოო რეპოზიტორიაში. ორი მომხმარებლის იდენტობის იზოლაციის შემოწმება უზრუნველყოფს, რომ ცალკეული პილოტის მომხმარებლები ქმნიან განსხვავებულ assumed-role სესიებს, აუდიტის ჩანაწერებსა და ტელემეტრიას და ამავე დროს იზიარებენ იმავე დამტკიცებულ Codex-ისა და Bedrock-ის გზას.

დაკვირვებადობა, ხარჯების განაწილება და მმართველობა

დაკვირვებადობა იყენებს AWS Distro for OpenTelemetry-ის კოლექტორსა და მართულ CloudWatch-ის დაშბორდს Codex-ის კლიენტის მეტრიკებისთვის, როგორიცაა ტოკენების გამოყენება, საუბრის რაუნდები, API-მოთხოვნები და ხელსაწყოების გამოძახებები. Amazon Bedrock-ის სერვისის მეტრიკები, AWS-ის იდენტობის ჩანაწერები და Cost and Usage Report გვაწვდიან სერვისის მხრიდან აქტივობას, მიკუთვნებასა და დარიცხულ გამოყენებას. სახელმძღვანელო ხაზს უსვამს ამ წყაროების კორელაციას გაშვებული გზისთვის და იმას, რომ ტოკენების მოცულობა ხარჯების ანგარიშად არ უნდა წარმოვადგინოთ. კონტროლის ტესტებში შედის გამოვლენის სიგნალიზაციები, IAM-ისა და მართული კლიენტის კონტროლები წვდომის საზღვრებისთვის და გეითვეის პოლიტიკა მოთხოვნის გზაზე აღსრულებისთვის, მაგალითად მკაცრი ბიუჯეტები ან სიხშირის ლიმიტები.

ეტაპობრივი გაფართოება და კონფიგურაციის საზღვრები

მას შემდეგ, რაც ინფრასტრუქტურის გზა იმუშავებს, გაშვება დეველოპერის გამოცდილებას სტანდარტიზებს ორგანიზაციის პლაგინებით, ჰუკებითა და დამტკიცებული Model Context Protocol სერვერებით. პლაგინები საერთო უნარებსა და MCP ინტეგრაციებს ვერსიონირებითა და განხილვით ავრცელებენ. ჰუკები პოლიტიკის ბრძანებებს PreToolUse, PostToolUse ან SessionStart მოვლენების დროს აღასრულებენ. MCP სერვერები ცალკეულ ნდობის საზღვრებს ქმნიან და მოითხოვენ შეზღუდულ წვდომას, დამტკიცებულ კრედენშელების მართვას და მომხმარებლის დადასტურებას გარე ცვლილებებისთვის. ადმინისტრატორის გაშვების ჩამონათვალი აფიქსირებს არჩეულ გზას, მფლობელ გუნდს, რეგიონს, მოდელსა და პილოტის ნებართვებს და მოითხოვს არასაწარმოო ტესტს, რომელიც მოიცავს შესვლას, მოდელის ხელმისაწვდომობასა და უსაფრთხო Codex-ის დავალებას. დასუფთავება შლის Codex-ის კონფიგურაციას, IAM-ის მინიჭებებს, გეითვეიზე წვდომას, ტელემეტრიის კოლექტორებსა და პილოტის დაშბორდებს და ამოწმებს, რომ ახალი გამოძახებები უარყოფილია.

წყაროები: AWS Machine Learning Blog