OpenAI Codex משתלב עם Amazon Bedrock להסקת מודלים ארגוניים

Amazon Web Services פרסמה הנחיות להפעלת OpenAI Codex עם Amazon Bedrock כתשתית הסקה עבור מודלי OpenAI הנתמכים. הפוסט מתאר שלושה מסלולי פריסה המאפשרים לצוותי פלטפורמה לשמור על נהלי זהות, אבטחה ותצפית קיימים של AWS תוך מתן גישה ל-Codex למפתחים בתחנות העבודה שלהם.

שלושה מסלולי פריסה ל-Codex על Bedrock

המסלול הפשוט ביותר הוא Native AWS Access, המשתמש ב-IAM Identity Center לכניסת עובדים ולאישורים זמניים. מפתחים נכנסים דרך ספק הזהות הקיים שלהם, ו-Codex קורא ישירות ל-Amazon Bedrock Runtime. המסלול השני, AgentCore Gateway, מספק תשתית שער מנוהלת של AWS לניתוב מרכזי ול-Amazon Bedrock Guardrails. המסלול השלישי, LLM Gateway, מתאים לארגונים שכבר מפעילים שער או רוצים לאכוף בקרות בנתיב הבקשה; אינטגרציה מותאמת אישית היא הגרסה המתקדמת של אפשרות זו. כל מסלול ממפה צרכי בקרה שונים לצוות אחראי, וההנחיות ממליצות להתחיל עם המסלול הפשוט ביותר העונה על הדרישה.

אימות הניסוי ובידוד הזהות

ההנחיות מתחילות בניסוי קטן עם הרשאות מינימליות. תנאים מוקדמים כוללים הוספת משתמשי ניסוי לקבוצה ייעודית במערכת הזהות הארגונית, הקצאה ל-IAM Identity Center, בחירת אזור Amazon Bedrock ומודל OpenAI זמין כגון GPT-5.6 Sol, והענקת הרשאות להסקת המודל בלבד. הניסוי מאמת גישת AWS באמצעות קריאה ישירה ל-Bedrock Runtime, מגדיר את ספק Codex לשימוש במודל ובפרופיל המאושרים, ומבצע משימה בטוחה לקריאה בלבד במאגר שאינו ייצור. בדיקת בידוד זהות של שני משתמשים מבטיחה שמשתמשי ניסוי נפרדים ייצרו הפעלות תפקיד שונות, רשומות ביקורת וטלמטריה נפרדות תוך שימוש באותו נתיב Codex ו-Bedrock המאושר.

תצפית, הקצאת עלויות וממשל

תצפית משתמשת בקולקטור AWS Distro for OpenTelemetry ובלוח בקרה מנוהל של CloudWatch כדי ללכוד מדדי לקוח Codex כגון שימוש באסימונים, סבבים, בקשות API וקריאות כלים. מדדי שירות Amazon Bedrock, רשומות זהות AWS ודוח עלות ושימוש מספקים נתונים על פעילות בצד השירות, על ייחוס ועל חיוב. ההנחיות מדגישות קורלציה של מקורות אלה עבור המסלול שנפרס, ומודגש שאין להציג נפח אסימונים כדוח עלות. מבחני בקרה כוללים התראות לזיהוי, בקרות IAM ולקוח מנוהל לגבולות גישה, ומדיניות שער לאכיפת נתיב בקשה כגון תקציבים קשיחים או מגבלות קצב.

התרחבות מדורגת וגבולות תצורה

לאחר שמסלול התשתית פועל, הפריסה מתקננת את חוויית המפתח באמצעות תוספים, ווים ושרתי Model Context Protocol בבעלות הארגון. תוספים מפיצים מיומנויות משותפות ואינטגרציות MCP עם גרסאות ובדיקה. ווים אוכפים פקודות מדיניות באירועי PreToolUse, PostToolUse או SessionStart. שרתי MCP יוצרים גבולות אמון נפרדים ודורשים גישה מוגבלת, ניהול אישורים מאושר ואישור משתמש לשינויים חיצוניים. רשימת הבדיקה של המנהל לפני ההשקה רושמת את המסלול שנבחר, הצוות האחראי, האזור, המודל והרשאות הניסוי, ודורשת בדיקה לא-ייצורית הכוללת כניסה, זמינות מודל ומשימת Codex בטוחה. ניקוי מסיר הגדרות Codex, הקצאות IAM, גישת שער, אוספי טלמטריה ולוחות בקרה של הניסוי, ומאמת שקריאות חדשות נדחות.

מקורות: AWS Machine Learning Blog