אנתרופיק השביתה את Fable 5 ו-Mythos 5 בעקבות הנחיית בקרת יצוא אמריקאית

אנתרופיק השביתה את הגישה לשני מהמודלים שלה, Fable 5 ו-Mythos 5, עבור כל הלקוחות, לאחר שקיבלה הנחיית בקרת יצוא ממשלת ארה"ב. לפי החברה, ההוראה הגיעה ביום שישי בשעה 17:21 לפי שעון החוף המזרחי, והמכתב לא פירט את השיקול הביטחוני שעומד מאחוריה.

מה דרשה ההנחיה

לפי ההודעה שמצוטטת בניוזלטר 12 Grams of Carbon, ההנחיה הורתה להשעות כל גישה ל-Fable 5 ול-Mythos 5 עבור כל אזרח זר — בין אם בתוך ארה"ב ובין אם מחוצה לה, כולל עובדים זרים של אנתרופיק עצמה. החברה מכנה זאת דרישה בלתי אפשרית: בפועל היה צורך לכבות את שני המודלים לכולם. שאר המודלים של אנתרופיק אינם מושפעים.

אנתרופיק אומרת כי לפי הבנתה הממשלה סבורה שהתגלתה דרך לעקוף, כלומר "לפרוץ" (jailbreak), את Fable 5. החברה בחנה הדגמה של הטכניקה, ששימשה לזיהוי מספר מצומצם של חולשות שהיו מוכרות מראש וקלות יחסית, וטוענת שמודלים ציבוריים אחרים יכולים למצוא אותן גם בלי שום עקיפה. לדבריה, היכולת שהוצגה "זמינה באופן נרחב במודלים אחרים (ובהם GPT-5.5 של OpenAI)" ומשמשת מדי יום את מי שמגן על מערכות. אנתרופיק מצייתת להנחיה, אך חולקת על כך ש"מציאת עקיפה צרה בכוח צריכה להיות עילה להחזרת מודל מסחרי שנפרס למאות מיליוני אנשים".

צל מעל ההחלטה

בניוזלטר 12 Grams of Carbon, תחת השם theahura, הכותב מגדיר את עצמו כאדם שמודאג בדרך כלל מסיכוני בינה מלאכותית ומסביר מדוע אופטימיזטורים חזקים מסוכנים — ובהם תאגידים, שמבצעים אופטימיזציה למה שאפשר למדוד. משם הוא עובר לפוליטיקה: לדבריו, אנתרופיק והממשל הנוכחי "ידועים מאוד כמי שאינם חברים" — החברה עבדה עם משרד ההגנה ולאחר מכן הוכרזה בפומבי כסיכון בשרשרת האספקה, בעוד שלמשפחת קושנר יש השקעות כבדות ב-OpenAI. הוא מציין ש-Fable נחשבת למודל חזק מאוד, ושהיא נעלמת מהצרכנים בדיוק כשאנתרופיק נערכת להנפקה.

למה התזמון והתקדים חשובים

את הפרסום בשישי ב-17:21 רואה הכותב כחשוד: לדעתו חדשות רעות מפרסמים אחרי סגירת השווקים כדי שסוף השבוע יספוג את הזעזוע. הוא מפנה לאוסף של חברת המחקר The Kobeissi Letter ובו הכרזות שיצאו מחוץ לשעות המסחר — מאיומי מכסים ועד תקיפות צבאיות. הכלכלה חשובה כאן לא פחות מהפוליטיקה, הוא כותב: תשתיות הבינה המלאכותית, החובות ומרכזי הנתונים מניחים שהביקוש לכוח מחשוב אכן ייענה, וממשלה שיכולה לחסום גישה באופן חד-צדדי מפוררת את ההנחה הזו. הוא מסיים בציטוט תגובה מ-Hacker News שלדבריו משקפת את עמדתו: הסיפור אינו שעונשו מעבדה, אלא שזו עשויה להיות ההתחלה של מצב שבו ממשלות קובעות באילו מודלים חזקים מותר לציבור להשתמש.