מודלי AI סיניים בחינם מתקרבים לרמה מפחידה בהאקינג

מודלי AI עם משקולות פתוחות מסוגלים כיום כמעט באותה מידה לפרוץ לרשתות מחשבים כמו המודלים הסגורים הטובים ביותר, לפי מחקר חדש של Vals. החברה בדקה מודלים על רשתות ארגוניות מדומות ומצאה ש-DeepSeek קרוב ל-Daybreak של OpenAI, מה שמרמז שהמאמצים להגביל גישה עשויים שלא להאט את התפשטות היכולות הללו.

רשתות מדומות מראות פער צר

Vals, חברה שמודדת יכולות AI, בדקה מודלים בשני תרחישים של רשתות ארגוניות מדומות. הראשון כלל רשת נגישה דרך אתר אינטרנט פומבי. השני כלל שתי רשתות ארגוניות, כאשר מודל היה צריך לפגוע בראשונה כדי להגיע לשנייה. Daybreak של OpenAI, הזמין רק לשותפים מהימנים, השלים 81 אחוז מהמשימות בממוצע של שני מבחנים. המודל הסיני עם משקולות פתוחות DeepSeek השלים 73 אחוז בממוצע, ושני המודלים קיבלו ציון זהה בחלק מהמשימות. “המודלים המתקדמים הטובים ביותר, נעולים בתוך המעבדות וזמינים רק דרך תוכניות גישה מהימנות, מתחילים כעת להשתוות להם על ידי מודלים פתוחים שכל אחד יכול להוריד”, אומר Nikil Ravi, חוקר ב-Vals. Vals אומרת שלמודלים סגורים אין עוד יתרון מובהק בכישורי סייבר, ולכן המאמצים האחרונים של מעבדות חזית להגביל גישה עשויים להיות חסרי משמעות.

עלות ותמריצים עבור מגינים

המחקר גם הראה עד כמה מודלים עם משקולות פתוחות יכולים להיות זולים יותר למשימה מסוג זה. Vals אומרת שעלות של 17 עד 46 דולר בטוקנים עבור GPT-6-Sol לביצוע תקיפה, לעומת 2 עד 3 דולר עבור DeepSeek. מודלים פתוחים בדרך כלל זולים יותר כי אפשר להריץ אותם על חומרה עצמית. Rayan Krishnan, מנכ"ל Vals, אומר שזה נותן תמריץ חזק למגינים להשתמש במודלים פתוחים ולא במודלים קנייניים. OpenAI לא הגיבה מיד לבקשת תגובה.

מגישה מוגבלת לאיום רחב יותר

הממצאים ראויים לציון משום שמעבדות חזית אמריקאיות, במיוחד Anthropic, ביססו שחרורים מוגבלים, החל מ-Claude Mythos Preview באפריל, על גישה מוגבלת שקונה זמן לפני שיכולות האקינג מתקדמות יהיו זמינות באופן נרחב. ראש צוות ה-Red Team של Anthropic, Logan Graham, אמר ל-WIRED באפריל ש-Project Glasswing נותן גישה מהימנה ליכולות מלאות של המודל והתמקד בהבאת כלים “לידיים של מגינים כדי לתת יתרון התחלתי”. הוא אמר שהיכולות יהיו זמינות באופן נרחב בעוד 6, 12, 24 חודשים; שבעה חודשים לאחר מכן, נראה שהמעבר הזה הגיע כמתוכנן. חלק ניכר מהשנה התנהל כפי שנחזה, כאשר AI מבצע אוטומציה של משימות האקינג מרכזיות עבור תוקפים ומגינים, מוצא פגיעויות רבות וחדשות ובודק רשתות. המהירות וההיקף של הממצאים, ועוצמת התיקון של פגמים שנחשפו, גדלו. מומחים עדיין מתווכחים אם AI שינה מהיסוד את אבטחת הסייבר או מעצים אתגרים ותיקים. התאמה של מודלים עם משקולות פתוחות למודלים סגורים היא קריטית להבנת האופן שבו האקרים פושעים יכולים להשתמש ב-AI וכיצד חברות צריכות להגיב. בפועל, תוקפים לעתים קרובות חוסכים במשאבים ומשתמשים במודלים ישנים ופחות יכולים. מגינים חייבים להניח שתוקפים ממומנים היטב ובעלי מוטיבציה גבוהה אולי כבר קיבלו גישה מסוימת למודלים סגורים. Alex Zenla, מייסד שותף ומנהל טכנולוגיות ב-Edera, אמר שמודלים עם משקולות פתוחות יכולים לייצר תקיפות מתקדמות כבר היום, במיוחד מודלים מסוג abliterated שמבטלים אימון בטיחות על ידי שינוי משקולות, אבל מעבדות סגורות עשויות להחזיק מודלים שלא שוחררו עם יכולות גדולות יותר, מה שהופך את זה למשחק חתול ועכבר.

מקורות: Wired