GPT-6 Sol ו-GPT-6 Luna זמינים כעת ב-Amazon Bedrock

המודלים GPT-6 Sol ו-GPT-6 Luna של OpenAI זמינים כעת באופן כללי ב-Amazon Bedrock, כך דיווחה AWS בפוסט בבלוג. בכך מתרחבת משפחת GPT-6 בפלטפורמה, אחרי GPT-6 Astra שהוצגה קודם לפרויקטים התובעניים ביותר.

שני מודלים, שני תפקידים

לפי AWS, השניים מכוונים לנקודות שונות על הציר שבין אינטליגנציה ליעילות. GPT-6 Sol מיועד למשימות תובעניות שחוזרות לאורך מחזור הפיתוח: מימוש תכונות, איתור ותיקון באגים, ריפקטור וסקירת קוד, ניתוח נתונים והשלמת תהליכים רב-שלביים בכלים וביישומים שונים. GPT-6 Luna נבנה למשימות ממוקדות וחזרתיות בהיקף גבוה — חילוץ מידע מאוספי מסמכים גדולים, סיכום חומרים נכנסים, סיווג קלטים ומענה על שאלות ממוקדות עבור משתמשים או יישומים רבים.

AWS מציינת שתמחור ה-API של שני המודלים נמוך משמעותית מקודמיהם GPT-5.6, וזהו לדבריה המנוף המרכזי להכנסת מודלים חזקים יותר לשימוש יומיומי בפרודקשן.

דיוק ועלות לתוצאה

בהערכת עובדתיות פנימית מצאה OpenAI ש-GPT-6 Sol ביצע בערך חצי ממספר הטעויות העובדתיות של GPT-5.6 Sol. החברה מצביעה גם על דיווח ברור יותר על מה שהמודל שינה, מה שאימת ומה לא הצליח לאמת — לדברי AWS, זה חשוב במשימות ארוכות שבהן צוותים צריכים לדעת היכן נדרש עדיין שיקול דעת אנושי. במקרה של GPT-6 Luna, ההערכות של OpenAI מראות שיפור באמינות העובדתית, וניתן לכוונן את מאמץ החשיבה לכל בקשה כדי לאזן בין איכות, זמן תגובה ועלות.

שילוב מודלים וקאשינג פרומפטים

מכיוון שיישום אחד עשוי להזדקק לרמות שונות של אינטליגנציה בשלבים שונים, AWS מתארת ניתוב כמערך מעשי: Luna לסיווג בקשות נכנסות, Sol לבדיקת מקרים מורכבים ו-Astra כשעומק חשיבה נוסף יכול לשנות החלטה. כדי שהמערך הזה יישאר יעיל, שני המודלים החדשים תומכים בקאשינג מפורש של פרומפטים ב-Bedrock: אפשר לסמן תוכן לשימוש חוזר — הנחיות מאגר קוד, מסמכי מדיניות או סכימת חילוץ קבועה — כך שבקשות נוספות יעבדו בעיקר את הקלט החדש.

ממשל וטיפול בנתונים

בצד השליטה AWS מונה ניהול גישה באמצעות מדיניות IAM, ביקורת של כל קריאה ב-CloudTrail, נקודות קצה של VPC מבוססות AWS PrivateLink, והרצת אינפרנס על תשתית מבודדת חומרתית ללא גישת מפעילים — כך שגם מפעילי AWS אינם יכולים לקרוא פרומפטים או תשובות בזמן האינפרנס. החברה אומרת שנתוני האינפרנס אינם משמשים לאימון מודלים ושאין צורך להסכים לשיתוף נתונים עם OpenAI; תעבורה שסומנה על ידי מסווג לזיהוי ניצול לרעה נשמרת ב-AWS עד 30 יום, ואפשר לבקש אפס שמירת נתונים דרך צוות החשבון ב-AWS. שני המודלים זמינים בקונסולת Bedrock ובאמצעות ממשקי ה-API הנתמכים של Bedrock.