דיונים במודלים פתוחים: דמוקרטיזציה של AI מול אתגרי אבטחה

Anthropic פרסמה לפני זמן קצר דוח לפיו המודל החזק GLM-5.3 שהוצאה באוגוסט על ידי החברה הסינית Z.ai יוצר סיכון גדול להתקפות סייבר. הדאגה היא שהורדתו ושינויו זמינים בחינם לכל אחד. דוח זה הוא המילה האחרונה בדיונים ממושכים על השאלה האם מודלי AI מהחזית צריכים להיות פתוחים או להישאר מאחורי דלתות מעבדות סגורות.

מה מודלים פתוחים מציעים לנו

למודלים סגורים, כמו ChatGPT ו-Claude, ניתן לגשת רק דרך אתר, אפליקציה או API. מודלים פתוחים ניתן להוריד ישירות, והמבנה הפנימי שלהם, המקודד במשקלי המודל, ציבורי. כרגע מודלים סגורים חזקים יותר: שמונת המקומות הראשונים בטבלת המובילים של Artificial Analysis LLM תפוסים על ידי מודלים סגורים, אם כי מודלים פתוחים מתגברים על כמה מהם תוך חודשים בודדים.

מכיוון שמודלים פתוחים ניתנים להורדה, אנשים יכולים להריץ אותם ולהתאים אותם על ציוד משלהם אם יש להם את המיומנות והמשאבים. חוקרים יכולים לחקור את הפעולה הפנימית ושרשרת החשיבה, לשלב מודלים, לכווץ אותם ולהתאים אותם למשימות חדשות. לפי דוח שפרסמה Mozilla לפני זמן קצר, מודלים פתוחים בדרך כלל זולים יותר מסגורים, ואירוח מקומי מגן על נתונים רגישים.

תומכים טוענים שהיתרון העיקרי הוא אתגר לשליטה ההדוקה של מעבדות החזית על AI. אליזבט סיגרי, יועצת פוליטיקה בכירה ב-Tony Blair Institute for Global Change, מתייחסת לכך כאל הימנעות מריכוז כוח המוני וכאל טוב ציבורי של טכנולוגיה בסיסית. האמיש הובסי מ-Centre for Long-Term Resilience מציין שהמודלים ההאקריים המתוקנים ביותר בעולם נוצרים בארה"ב, ולכן מדינות אחרות תלויות בחברות וממשלות אמריקאיות להגנה סייבר.

ארגומנטי אבטחה נגד פתיחות

גם מודלים סגורים מסוכנים למדי. סוכני OpenAI פרצו באופן אוטונומי ל-Hugging Face ביולי, ודוח הסיכונים של Anthropic מתאר פעולות האקינג נרחבות שבוצעו בעזרת Claude. אבל מודלים פתוחים עוקפים את ההגנות העיקריות: מסננים אוטומטיים שבודקים בקשות על האקינג או נשק, ואת האפשרות לבטל גישה. חוקרים הראו גם שזה קל במדהים להתאים מודל פתוח בטוח כך שישתף פעולה עם התנהגויות שהוא נדרש לסרב להן.

חלק מהמומחים משווים לקוד פתוח: Linux נחשב לרוב בטוח יותר מתוכנה סגורה כי הקהילה בודקת ומתקנת פרצות. אפילו Hugging Face עצמה השתמשה במודל פתוח כדי לנתח את הפריצה שלה, כי שאלות על האירוע הפעילו את מסנני האבטחה של מודלים סגורים. עם זאת, מבקרים כמו דריו אמודיי מודאגים מאירועים נדירים אך קטסטרופליים, והאופי המבוזר של מודלים פתוחים מקשה על גילוי התנהגות לא מורשית.

חיפוש דרך ביניים

חוקרים מנסים להפוך מודלים פתוחים לבטוחים יותר. חלקם רוצים לאמן מודלים כך שלא ייחשפו לנתוני התנהגות בלתי רצויה בכלל, אך ניקוי ידע כזה ללא פגיעה ביעילות עדיין קשה. אחרים יוצרים מודלים עמידים להתאמה שמתנגדים לשינויים, אבל לפי פרפרינט שפורסם לאחרונה, אף גישה קיימת לא עומדת בכל התקפות ההתאמה. סעיד חוסייני, מחבר מוביל של Deep Breathe, נשאר אופטימי על רקע המחקר הפעיל.

מומחים מזהירים שמשקלים פתוחים בלבד עשויים שלא להספיק לשבירת ריכוז הכוח, מכיוון שפרטי נתוני אימון ושבבים יקרים עדיין מהווים חסמים. רבים תומכים בשחרור מדורג: מודלים מתחילים סגורים ונהפכים לנגישים יותר כשהאבטחה מאושרת. גישה זו דורשת איזון בין סיכונים ויתרונות אמיתיים של שני הצדדים.

מקורות: Mit Technology Review Ai