GPT-6 Cyber של OpenAI מוצא ומנצל פגיעויות תוכנה

OpenAI חשפה את GPT-6 Cyber, מודל בינה מלאכותית שאומן למצוא חולשות תוכנה, לבנות אקספלויטים עובדים ולהציע טלאים. החברה אומרת שאימנה את המודל לכבד מעקות בטיחות תפעוליים, תוך שימוש בין היתר במלכודת דבש בהשראת תקרית Hugging Face, ושהוא נמנע מהפרות גבולות ב-99.93 אחוז מהמקרים ללא הנחיות בטיחות מיוחדות, או ב-100 אחוז איתן, עלייה מ-94.49 אחוז אצל קודמו. OpenAI מדרגת את GPT-6 Cyber כ"קריטי" בקטגוריית אבטחת הסייבר של מסגרת המוכנות שלה.

מדדי אבטחת סייבר

ב-ExploitGym, בנצ'מרק שבוחן האם מודל יכול לנצל פגיעות נתונה במערכת מרוחקת, GPT-6 Cyber משיג 48.5 אחוז לפי OpenAI, לעומת 32.1 אחוז עבור קודמו GPT-5.6 Cyber. במבחן חדש לאיתור פגיעויות באפליקציות ווב ללא גישה לקוד המקור, OpenAI מדווחת על שיעור הצלחה של 40.3 אחוז, לעומת 32.0 אחוז עבור GPT-6 Astra, המודל הסטנדרטי ללא אימון סייבר. כל מספרי הבנצ'מרק מגיעים מ-OpenAI עצמה, ולא פורסמו עד כה בדיקות עצמאיות של המודל.

ממצאים ב-Firefox ובליבת לינוקס

בקמפיין ממוקד, GPT-6 Cyber מצא 81 פגיעויות חמורות שלא היו ידועות קודם לכן ב-Firefox, למרות שהדפדפן כבר נבדק עם דגמי AI קודמים. המודל גם הראה ש-30 בעיות שכבר היו ידועות היו חמורות יותר מכפי שנחשב בעבר. Mozilla קיבלה את הדוחות וכבר שחררה תיקונים. בליבת Linux, המודל שחזר 1,724 פגיעויות אבטחה ופיתח אקספלויטים עובדים ל-948 מהן, יותר מפי חמישה מ-166 ש-GPT-5.6 Sol השיג באותם תנאים. OpenAI אומרת ש-304 ממצאים קריטיים דווחו למתחזקי Linux יחד עם תיקונים מוצעים.

עבור קמפיין לינוקס, OpenAI בנתה מערכת אוטומטית ייעודית של סוכני סיור וסוכני אנליסטים. תחילה הם סרקו כ-5,034 מקומות רלוונטיים לאבטחה בקרנל, כ-שבעה אחוזים מסך בסיס הקוד, ואז סיננו אותם ל-2,308 מועמדים ואישרו 1,724 פגיעויות במכונות וירטואליות מבודדות. כל הריצה עלתה $1,213,430 במחשוב, לפי OpenAI, שזה מסתכם ב-$1,279 לכל ניצול. הסוכנים השתמשו בלפחות עשר טכניקות תקיפה חדשניות שלא היו ידועות קודם לכן אפילו למומחי אבטחת קרנל חיצוניים.

גישה ואמצעי הגנה

GPT-6 Cyber זמין בתחילה דרך ה-API ו-Codex לקבוצה נבחרת של לקוחות Daybreak Red, כאשר הגישה תתרחב בהדרגה לכל לקוחות Daybreak Red. GPT-5.6 Cyber נפתח לכל משתמשי Daybreak Red באותו זמן, וגישת אלפא ל-Daybreak Blue עבור GPT-6 Astra תורחב לארגונים נוספים ולחוקרי אבטחה בודדים. OpenAI מכירה בכך שככל שהמודלים נעשים בעלי יכולות רבות יותר, גם ניסיונות השימוש לרעה גוברים, ושחקנים מסוימים ניסו להעביר יכולות של מודלים אל המערכות שלהם.

OpenAI מפרטת אמצעי נגד הכוללים בדיקות הרשאות, ניטור אחר פגיעויות שנחשפו לאחרונה, בדיקות בטיחות אוטומטיות באמצעות מה שהיא מכנה Private Safety Processing, הגבלות גישה מבוססות IP עבור Daybreak Red, והמלצה להריץ את המודל בסביבות מבודדות עם פיקוח אנושי. החברה מקדישה תשומת לב מיוחדת לתשתיות קריטיות כגון תחנות כוח ומתקני טיהור מים, ומצביעה על תוכנית המימון שלה בהיקף מיליארד דולר "Daybreak for Frontline Defenders" ועל תת-קבוצה חדשה בשם "Daybreak Red for Critical Infrastructure" לבדיקות מורשות. OpenAI גם אומרת שחוקרים מ-Epoch AI הראו שמודל GLM הפתוח יכול היה לנצל פגיעויות ידועות אך עדיין לא מתוקנות ב-Firefox.

מקורות: The Decoder · The New Stack