OpenAI Codex, kurumsal model çıkarımı için Amazon Bedrock ile bütünleşiyor

Amazon Web Services, desteklenen OpenAI modelleri için çıkarım arka ucu olarak Amazon Bedrock ile OpenAI Codex çalıştırma rehberi yayımladı. Yazı, platform ekiplerinin mevcut AWS kimlik, güvenlik ve gözlemlenebilirlik uygulamalarını korurken geliştiricilere iş istasyonlarında Codex erişimi vermelerini sağlayan üç dağıtım yolunu özetliyor.

Codex'in Bedrock üzerinde üç dağıtım yolu

En basit yol, çalışan oturum açması ve geçici kimlik bilgileri için IAM Identity Center kullanan Native AWS Access yoludur. Geliştiriciler mevcut kimlik sağlayıcıları üzerinden oturum açar ve Codex, Amazon Bedrock Runtime'ı doğrudan çağırır. İkinci yol olan AgentCore Gateway, merkezi yönlendirme ve Amazon Bedrock Guardrails için AWS tarafından yönetilen ağ geçidi altyapısı sağlar. Üçüncü yol olan LLM Gateway, zaten bir ağ geçidi çalıştıran veya istek yolunda denetim uygulamak isteyen kuruluşlara uygundur; özel entegrasyon bu seçeneğin gelişmiş sürümüdür. Her yol, farklı denetim ihtiyaçlarını ilgili sahip ekiple eşleştirir ve rehber, gereksinimi karşılayan en az karmaşık yolla başlamayı önerir.

Pilot doğrulama ve kimlik izolasyonu

Rehber, küçük ve en az yetkili bir pilotla başlar. Ön koşullar arasında çalışan kimlik sisteminde pilot kullanıcıları özel bir gruba ekleme, IAM Identity Center'a hazırlama, bir Amazon Bedrock bölgesi ve GPT-5.6 Sol gibi kullanılabilir bir OpenAI modeli seçme ve yalnızca gerekli model çıkarım izinlerini verme yer alır. Pilot, doğrudan bir Bedrock Runtime çağrısıyla AWS erişimini doğrular, onaylı model ve profili kullanmak üzere Codex sağlayıcısını yapılandırır ve üretim dışı bir depoda güvenli, salt okunur bir görev çalıştırır. İki kullanıcıdan oluşan kimlik izolasyonu denetimi, ayrı pilot kullanıcıların aynı onaylı Codex ve Bedrock yolunu paylaşırken farklı assumed role oturumları, denetim kayıtları ve telemetri üretmesini sağlar.

Gözlemlenebilirlik, maliyet dağılımı ve yönetişim

Gözlemlenebilirlik, belirteç kullanımı, tur sayısı, API istekleri ve araç çağrıları gibi Codex istemci ölçümlerini yakalamak için AWS Distro for OpenTelemetry toplayıcısını ve yönetilen bir CloudWatch panosunu kullanır. Amazon Bedrock hizmet ölçümleri, AWS kimlik kayıtları ve Cost and Usage Report, hizmet tarafı etkinlik, atıf ve faturalandırılmış kullanım sağlar. Rehber, dağıtılan yol için bu kaynakları ilişkilendirmeyi ve belirteç hacmini maliyet raporu olarak sunmamayı vurgular. Denetim testleri arasında algılama için alarmlar, erişim sınırları için IAM ve yönetilen istemci denetimleri ve sert bütçeler veya hız sınırları gibi istek yolu uygulaması için ağ geçidi ilkesi yer alır.

Aşamalı genişleme ve yapılandırma sınırları

Altyapı yolu çalıştıktan sonra dağıtım, kuruluş sahipliğindeki eklentiler, kancalar ve onaylı Model Context Protocol sunucuları aracılığıyla geliştirici deneyimini standartlaştırır. Eklentiler, sürümleme ve inceleme ile paylaşılan becerileri ve MCP entegrasyonlarını dağıtır. Kancalar, PreToolUse, PostToolUse veya SessionStart olaylarında ilke komutlarını uygular. MCP sunucuları ayrı güven sınırları oluşturur ve sınırlı erişim, onaylı kimlik bilgisi yönetimi ve dış değişiklikler için kullanıcı onayı gerektirir. Yönetici başlatma kontrol listesi seçilen yolu, sahip ekibi, bölgeyi, modeli ve pilot izinlerini kaydeder ve oturum açma, model kullanılabilirliği ve güvenli bir Codex görevini kapsayan üretim dışı bir test gerektirir. Temizlik, Codex yapılandırmasını, IAM atamalarını, ağ geçidi erişimini, telemetri toplayıcılarını ve pilot panolarını kaldırır ve yeni çağrıların reddedildiğini doğrular.

Kaynaklar: AWS Machine Learning Blog