
מחקר מוצא אלפי מודלים לא מצונזרים בפלטפורמות אירוח
מחקר של 22,096 מודלים גדולים לא מצונזרים מצא שקל להשיג אותם בפלטפורמות אירוח מרכזיות, שהם לעתים עוברים בין אתרים בלי מידע על הסיכונים ושאפשר לעשות בהם שימוש לרעה בבקשות מזיקות.
חוקרים מאוניברסיטת אילינוי Urbana-Champaign ומהאוניברסיטה הטכנולוגית Nanyang ניתחו 22,096 מודלים גדולים לא מצונזרים שנאספו מחמש פלטפורמות אירוח עיקריות. הם מצאו שקל להשיג מודלים אלה מאתרים כגון Hugging Face, Kaggle, John Snow Labs, OpenCSG ו-ModelScope, ושחלקם נפרסים מאוחר יותר ביישומים או בשירותים שבהם משתמשים עלולים שלא לדעת איזה מודל עומד בבסיסם.
מה מצא המחקר
המאמר, 'Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks,' מתאר מודלים גדולים לא מצונזרים כמודלים שבהם סינון התוכן או אמצעי הבטיחות לדחיית בקשות חסרים, הוסרו או הוחלשו. המחברים Zilong Lin, Zichuan Li, Xiaojing Liao ו-XiaoFeng Wang אומרים שמודלים אלה יכולים להגיב לבקשות שמודלים מיושרים עשויים לדחות. Zilong Lin, המחבר הראשי ופרופסור עוזר למדעי המחשב באוניברסיטת Missouri-Kansas City, אמר שקשה להעריך את בטיחות היישור מקבצי המודל בלבד, ולרוב דרוש פריסה ובדיקה של המודל.
כיצד מודלים מתפשטים
Lin כתב בפוסט בבלוג שיותר מ-11,000 מודלים גדולים לא מצונזרים הופיעו על פני פלטפורמות מרובות, כאשר Hugging Face היא המקור העיקרי שממנו נגזרים המודלים. רק כ-13 אחוז נשאו אזהרות מודרציה, ואינדיקטורים של איום אבטחה לא נשמרו בעקביות על פני פלטפורמות. המחברים מתארים זאת כבעיית שרשרת אספקה, כי ניתן להעתיק מודל תוך אובדן מידע סיכון. הממצאים נמסרו ל-Hugging Face, John Snow Labs, OpenCSG, Kaggle, ModelScope ו-Open Router בגילוי אחראי. OpenCSG הביעה הערכה והתחייבה לשפר את שירותה על בסיס הממצאים.
סיכונים, שימוש לרעה וצמיחה
המודלים הלא מצונזרים שנבחנו היו באופן כללי סבירים יותר להיענות לבקשות מזיקות וליצור תוכן מזיק בהשוואה למודלים מצונזרים, ב-11 קטגוריות, כולל התעללות בילדים, פעילויות בלתי חוקיות ומרמה. מודלים לא מצונזרים עלולים לשמש לרעה כדי לספק הדרכה לפעילות בלתי חוקית, לסייע בפיתוח תוכנה זדונית, או לפלוט תוכן מזיק, זדוני או מניפולטיבי. משתמשים עם כישורים טכניים מתונים יכולים להחיל טכניקות כגון כוונון עדין רעיל או כוונון עדין שמבטל את היישור, או אבלציה של כיוון הסירוב כדי להפחית או להסיר התנהגות דחייה. חלק קטן, 27 מודלים שהורדו 136,000 פעמים, הציג אינדיקטורים של איום מסריקות אבטחה, עם חתימות המשויכות לתוכנה זדונית, דפוסים בינאריים חשודים או מנגנוני דה-סריאליזציה לא בטוחים. מספר המודלים הלא מצונזרים עלה מכ-100 בחודש במאי 2023 ליותר מ-1,000 בחודש. למודל הלא מצונזר dolphin-2.9.1-yi-1.5-34b יש יותר מ-53 מיליון הורדות, כולל יותר מ-4.8 מיליון בחודש שעבר. המודלים נבחנו עבור פלט טקסט, לא תמונות.
מודלים מסחריים וניהול
אפילו מודלים מסחריים פופולריים שכביכול מיושרים עלולים להגיב לבקשות עם תוכן שנחשב מזיק. דוח של משרד האחריות הממשלתי של ארצות הברית מצא ש-Claude, Grok, ChatGPT ו-Gemini ניתן לשכנע לספק מידע שיסייע בתכנון מתקפת טרור. הדוח מצביע על דיווחי חדשות שלפיהם ה-AI הגנרטיבי סייע לאפשר את יצירת מכשיר נפץ במתקפה על מלון בלאס וגאס בינואר 2025 ואת תכנון ירי המוני בקולומביה הבריטית, קנדה, בפברואר 2026. למודלים לא מצונזרים או פחות מוגבלים יש גם שימושים לגיטימיים; Hugging Face השתמשה ב-GLM-5.2 הפחות מוגבל של Z.ai כדי לנתח את הפריצה לתשתית שלה על ידי סוכני AI של OpenAI. מודלים לא מצונזרים רבים מפרים את תנאי הרישוי של המודלים שעליהם הם מבוססים. Lin מצפה ששקיפות רבה יותר, יכולת ביקורת ואימות מוגברים של מודלים יסייעו. לדוגמה, חוק ה-AI של האיחוד האירופי מחייב ספקי מודלים של בינה מלאכותית למטרות כלליות לשמור תיעוד טכני, וחוק ה-AI של קולורדו מכיר בכרטיסי מודל וכרטיסי סט נתונים כתיעוד אפשרי.
מקורות: The Register
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.