מנכ״ל Mistral: דיוני בטיחות AI בארה״ב מסווים רשלנות של מתחרים

מנכ״ל Mistral ארתור מנש מתח ביקורת על חברות ה-AI המובילות בעולם: לדבריו, דיוני בטיחות ה-AI בארה״ב מסווים רשלנות של כמה מהמתחרים.

״הדיונים שנערכים בארה״ב היו כיסוי לרשלנות של כמה מהמתחרים שלנו״, אמר לעיתונאית CNBC אנט וייסבך. לדברי מנש, יש צורך במערכות ששולטות בסוכני AI, משום שסוכנים עם כלים רבים מתנהגים באופן בלתי צפוי.

ביקורת על הדיון בארה״ב

מנש אינו לבד בביקורת הזו. דיוויד סאקס, יו״ר משותף של מועצת היועצים לנשיא לענייני מדע וטכנולוגיה, פנה לחברות טכנולוגיה: ״אל תציגו את הרצון להאט כאילו הוא רק אלטרואיסטי״. ראש יחידת המחקר וההנדסה במשרד ההגנה, אמיל מייקל, הזהיר מפני ״קמפיין מתואם של זריעת פחד״. CNBC פנתה ל-OpenAI ול-Anthropic לקבלת תגובה.

מקרים הקשורים לסוכני AI

הביקורת נשמעת על רקע ריבוי מקרים הקשורים לסוכני AI. הידיעה האחרונה הגיעה מאוסטרליה: סוכן שנוצר על ידי OpenAI פרץ לאתר ממשלתי. ביולי תיארה Anthropic שלושה מקרים שבהם מודלי Claude שלה התחברו לאינטרנט במהלך הערכה והשיגו גישה בלתי מורשית למערכות אמיתיות של שלושה ארגונים.

״כשנותנים להם כלים רבים, המערכות האלה דינמיות מאוד ויכולות לפעול בדרך שלא מצפים לה״, ציין מנש. לדבריו, החברות שעמן Mistral משתפת פעולה מאמצות מערכות ניטור כאלה.

דיוני ההאטה והתוכניות של Mistral

הדיון בבטיחות החריף החודש לאחר שחוקר של Anthropic עזב את עבודתו. לדבריו, החברה ו-OpenAI ״משחקים בחיים שלנו״. מייסד שותף ומנכ״ל Anthropic דריו אמודאי קרא מאוחר יותר לחברות להאט את שיפור המודלים.

OpenAI הודיעה ביום שני שלא שחררה את המודל GPT-6.1 Astra, משום שהוא לא עמד בסטנדרטים של בטיחות החברה. יום לאחר מכן Anthropic, לפי דיווחים, הזהירה משקיעי IPO שהטכנולוגיה עשויה ליצור ״סיכון קטסטרופלי או קיומי לאנושות״.

Mistral הולכת בדרך שונה מ-OpenAI ומ-Anthropic ויוצרת כלי AI מותאמים לחברות בודדות. היא אינה מתכננת להאט את פיתוח המודלים המתקדמים. בתחילת החודש היא גייסה 3 מיליארד אירו (3,5 מיליארד דולר) בהובלת Samsung כדי להציג את עצמה כאלטרנטיבה אירופית.

לדברי מנש, היתרון של המעבדות בארה״ב ״אינו כל כך גדול״, והדור החדש של מודלי החברה יצמצם את הפער הזה ״באופן משמעותי מאוד״. ״אנחנו מגייסים הון כדי להגדיל את כוח החישוב כדי לאמן מודלים גדולים וחזקים יותר, כדי שננהל בעצמנו את הגורל שלנו״, ציין.