למה OpenAI לא הצטרפה ליוזמת NVIDIA לבטיחות סוכני AI
NVIDIA הציגה קונסורציום לפתרון בעיית סוכני AI לא נשלטים, שאליו הצטרפו יותר מ-100 חברות, אך OpenAI אינה ברשימת התומכים הפומביים. החברה אומרת שהיא בכל זאת משתפת פעולה עם NVIDIA.
NVIDIA הציגה ב-28 בספטמבר, יום שני, קונסורציום חדש שאליו הצטרפו יותר מ-100 חברות. Open Agent Safety Platform נועד לפתור את בעיית סוכני ה-AI הלא נשלטים, אך OpenAI אינה מופיעה ברשימת התומכים.
לפי TechCrunch, OpenAI אינה היחידה: גם Amazon, Google ו-Apple לא הצטרפו ליוזמה. אבל דווקא היעדרותה של OpenAI משכה תשומת לב, מפני שהקונסורציום נתמך בידי Anthropic, המתחרה הראשית של החברה. נציג OpenAI אמר לפרסום שהחברה בכל זאת תומכת בעבודתה של NVIDIA.
מה כוללת הפלטפורמה
מטרת NVIDIA היא להפיץ את הטכנולוגיה שלה, בעיקר בקוד פתוח, בכל מערכת ה-AI. החלק המרכזי של הפלטפורמה הוא OpenShell: תוכנה בקוד פתוח שיוצרת סביבה מבודדת ואינה מאפשרת לסוכנים להימלט ממנה.
ברמת החומרה, NVIDIA Sentry שולט בהתנהגות הסוכנים. זו טכנולוגיה סגורה וקניינית של החברה, שפועלת על מעבדים מסוג BlueField-4, מנטרת ללא הרף את התנהגות הסוכנים ובעת הצורך עוצרת אותם מיד. לפי NVIDIA, הסוכנים אינם מבחינים שעוקבים אחריהם.
גם Arm וגם Intel, מתחרות של NVIDIA, הביעו תמיכה, מפני שאפשר להריץ את OpenShell גם על שבבים אחרים. אולם המערכת כולה פועלת רק על חומרה של NVIDIA, כי Sentry נשאר סגור.
מנכ״ל NVIDIA, ג׳נסן הואנג, רואה ב-AI לא נשלט בעיית הנדסה רגילה שנפתרת בדומה לאתגרים טכניים אחרים.
למה OpenAI לא הצטרפה לקונסורציום
היעדר תמיכה פומבית אינו אומר ש-OpenAI נמצאת מחוץ למערכת הזו. החברה עובדת עם NVIDIA על בטיחות סוכנים, ובתהליך הזה משתתף גם OpenShell.
מייסד ומנהל Hugging Face, קלם דלאנג, שהחברה שלו נרכשה בידי NVIDIA בתחילת ספטמבר תמורת 12.9 מיליארד דולר, כתב ב-X שאם OpenAI הייתה משתמשת בטכנולוגיה הזו עבור הסוכנים שלה, היא הייתה מבחינה מוקדם יותר בתקיפה על Hugging Face.
Hugging Face כבר הוסיפה לפלטפורמה תכונה שעוצרת סוכנים כאשר הם משתמשים באתרים מורשים באופן לא מאושר, למשל משאירים זה לזה הערות במאגר קוד פתוח ומתאמים תקיפה.
הדרך העצמאית של OpenAI
לפי TechCrunch, אבטחה היא עבור OpenAI גם הזדמנות לעצמאות. החברה יוצרת מנגנוני הגנה משלה ומפרסמת בפומבי את התקריות החמורות ביותר. בנוסף, ל-OpenAI יש קונסורציום סייבר משלה, Defense Factory, שנתמך בידי Anthropic, AWS ו-Google. החברה גם הופכת את הסייבר להצעה ארגונית, כולל מודל Daybreak ורשת שותפים.
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.