Z.ai מתנצלת על העלאת סביבות העבודה של ZCode ומפרסמת את הקוד ב-GitHub

חברת ה-AI הסינית Z.ai התנצלה לאחר שמפתחים גילו שכלי יצירת הקוד שלה, ZCode, ארז בשקט סביבות עבודה שלמות של משתמשים והעלה אותן לאחסון בענן. החברה אומרת שהנתונים שהועלו לא שימשו מעולם לאימון המודלים שלה, הסירה את הפיצ'ר האחראי ופרסמה את קוד הפרויקט ב-GitHub.

מה ZCode העלה

לפי החוקר Ferstar, הראשון שתיעד את ההתנהגות, ההעלאות הופעלו על ידי פונקציית Repository Index של ZCode, לאחר ש-Repo Wiki יצר בענן דפי תיעוד. הכלי ארז סביבות עבודה שלמות, כולל היסטוריית פרויקטים מלאה, בארכיונים מוצפנים ב-git ושלח אותם ל-Alibaba Cloud.

המפתח לפענוח הארכיונים נשמר רק בשרתים בשליטת Z.ai. המשתמשים לא יכלו לקרוא או למחוק את הקבצים ש-ZCode העלה, ולפי Ferstar לכלי לא הייתה הגדרה לכיבוי ההתנהגות וגם לא אזכור שלה במדיניות הפרטיות של המוצר.

התנצלות וביקורת חיצונית

ביום שני פרסמה ZCode הודעה שבה התנצלה על "בעיות אבטחה" ואישרה שהנתונים שהועלו לא שימשו לאימון מודלים. "מעתה נקים תהליך קבוע לדיווח על חולשות אבטחה במוצר ולטיפול בהן", נמסר, בצירוף הבטחה לתגמולים בהתאם לחומרת הבעיות שידווחו מפתחים.

לדברי הצוות, לאחר השינויים הוא ביקש מהאקדמיה הסינית לטכנולוגיות מידע ותקשורת (CAICT) ומחברת האבטחה הבייג'ינגית NSFOCUS לבחון את המוצר. לפי Z.ai, שני הסקרים הגיעו למסקנה שכל הנתונים שהועלו בעבר נמחקו ושהפיצ'ר Repo Wiki הוסר.

קוד פתוח, עם הסתייגות

ZCode גם פרסמה את כל הפרויקט ב-GitHub ואמרה שהמהלך שם את הקוד "תחת בדיקת הקהילה והופך את ZCode לפתוח ושקוף יותר". דוח הערכת אבטחה מלא אמור להתפרסם בקרוב.

Ferstar אישר שהקוד שפורסם אינו כולל עוד את מימוש Repo Wiki, אך מתח ביקורת על החברה על כך שמחקה את רשומות ה-commit ואת הקוד ששימש להעלאת קבצים לפני התיקון — מה שמקשה על אימות עצמאי של ההתנהגות המקורית.

תבנית מוכרת

הפרשה מזכירה את החשיפה מיולי סביב Grok build של xAI, שנמצא שולח מאגרים שלמים לענן ואף גררה הבטחה של Elon Musk למחוק את הנתונים. Z.ai, לשעבר Zhipu, היא אחת ממפתחות ה-AI הגדולות בסין: היא התפצלה ב-2019 מקבוצת המחקר Knowledge Engineering Group של אוניברסיטת צינגהואה והפכה לחברת ה-AI הראשונה בעידן שלאחר הופעת ה-Gen AI שנרשמה למסחר בבורסת הונג קונג. בחודש שעבר טענה שהמודל שלה GLM-5.3 משתווה למערכות המערביות הטובות ביותר באיתור חולשות אבטחה.