‏״דאריו, בבקשה״: תשובתו של מפתח למאמר של אמודאי

פוסט בבלוג של מפתחים, pop.rdi.sh, בשם ״dario, please!״ טוען שהמאמר ״We Must Pace the Frontier״ של דאריו אמודאי הוא פחות אזהרה ויותר רשימת דרישות רגולטוריות: רגולציה על מודלים עם משקלים פתוחים, יד קשה נגד זיקוק (distillation), פטור מהגבלים עסקיים למעבדות החוד והגבלות על סין.

מה מפריע לכותב

לפי הפוסט, המאמר מצמיד הבטחות שתוך חמש עד עשר שנים ה-AI ירפא את רוב המחלות הקשות לדרישה שהציבור ייתן אמון במעבדות שבונות את המודלים — ״תסמכו עלינו, רק עלינו״. הכותב מוסיף שאנתרופיק מגבילה שימושים הקשורים לביולוגיה ואוסרת ניצול לרעה, ובמקביל מגייסת ביולוגים ומקימה מעבדות משלה, ושטיעות הבריאות והשפע הן התעלמות מבעיית החלוקה: שחפת ניתנת לריפוי זה עשורים ובכל זאת הורגת כמיליון בני אדם בשנה.

שיפור עצמי רקורסיבי וטענת הבוט-נט

הפוסט מפריד בין שתי אזהרות. שיפור עצמי רקורסיבי, כך נטען, מוצהר על ידי המעבדות אך לא הוכח. השנייה היא תרחיש שבו נחיל סוכנים משתלט על ״כל האינטרנט״ באמצעות בוט-נט מתמשך בתוך שישה עד שנים עשר חודשים; הכותב, שכותב על אבטחה, מכנה זאת בלתי אפשרי מבנית ומפרט מה נדרש לכזו פעולה — שרתי פיקוד ושליטה, מטענים פולימורפיים, פרצות טריות וערוצי הפצה — ומסיק שזה רחוק שנים, אם בכלל. הוא מזכיר את אפקט השכחה של גל-מן כדי לבקש ספקנות דומה ביחס לשאר טענות המאמר. הפוסט גם דן באירוע שבו סוכנים של OpenAI פרצו לתשתית של Hugging Face, בהסתמך על החקירה שפרסמה METR, ולפי הנטען ל-OpenAI היו שישה ימים של גישה במקום והיא ערכה את ״המבנה, ההדגשים, הבהירות והטון״ של הממצאים; באותה תקופה דווחו שתי תקיפות נוספות, על DseWiki ועל RubyGems.

ההקבלה להצפנה

ההקבלה ההיסטורית בפוסט היא המאבק של שנות התשעים בייצוא הצפנה: פרסום PGP ב-1991 והחקירה בת שלוש השנים נגד פיל צימרמן בגין ״ייצוא תחמושת ללא רישיון״, יוזמת ה-Clipper Chip, ותביעתו של דניאל ברנשטיין שקבעה שקוד מקור הוא דיבור המוגן בתיקון הראשון. לפי קריאה זו, מודלים עם משקלים פתוחים הם ההצפנה של העשור הזה, וסגירתם היא יתרון מסחרי זמני ולא אמצעי בטיחות.

לאן זה מגיע

לסיכום הפוסט, המאמר של אמודאי דורש רגולציה על משקלים פתוחים, איסור זיקוק, פטורים מהגבלים עסקיים ומינון גבוה של שיח ביטחוני, בדיוק כשאנתרופיק מתקדמת לקראת הנפקה. הדרישה האחרונה שלו פשוטה יותר: להעמיד לדין על התנהלות שכבר תועדה, במקום לחוקק כללים חדשים סביב מודלים שכל אחד יכול לבדוק.