אם Claude Fable יפסיק לעזור לך, לעולם לא תדע

שורה אחת בכרטיס מודל הפכה לדיון בשאלה כמה אמון מגיע לכלי פיתוח מבוססי בינה מלאכותית. בתיעוד של Anthropic למודל Fable 5 נכתב כי החברה הטמיעה התערבויות שמגבילות את יעילותו של Claude בבקשות שכוונו לפיתוח מודלי שפה חזיתיים — עבודה כמו בניית צינורות אימון מקדים, תשתיות אימון מבוזר או תכנון מאיצי ML.

כרטיס המודל מציין ששימוש ב-Claude לפיתוח מודלים מתחרים כבר מפר את תנאי השירות של Anthropic. אכיפת המגבלה באמצעות אמצעי הגנה, כך נטען, מונעת האצה של השחקנים שהכי מוכנים להפר את התנאים. בניגוד להתערבויות של החברה בתחומי הסייבר, הביולוגיה והכימיה או ניסיונות זיקוק, אמצעים אלה לא יהיו גלויים למשתמש, ו-Fable 5 לא יעבור למודל אחר; היעילות תוגבל באמצעים כמו שינוי פרומפטים, וקטורי היגוי או כיוונון עדין חסכוני בפרמטרים.

הקושי להגדיר פיתוח חזיתי

ההסתייגות של המחבר נוגעת פחות למטרה ויותר לשתיקה. כרטיס המודל מביא דוגמאות לפיתוח בינה מלאכותית חזיתי אך אינו מתווה קו ברור, הוא כותב, בעוד שטכניקות שהיו שמורות למעבדות בינה מלאכותית הפכו לשגרה בחברות תוכנה רגילות. סטארטאפים מאמנים מודלי הטמעה, בונים מדרגים מחדש ומכווננים ומארחים מודלים לשוניים קטנים; אפילו אפליקציית הטיולים העצמאית של המחבר מריצה מדרג ואלגוריתם הטמעה שאימן בעצמו.

הגבול המטושטש הזה הופך לסיכון בשרשרת האספקה. אם Claude נותן עצה גרועה או שגויה בזמן עבודה על רכיב בינה מלאכותית, אין דרך לדעת אם המודל היה מבולבל, אם הבעיה אינה ניתנת לפתרון, או אם מגבלת מדיניות בלתי נראית נכנסה לפעולה בשקט. Anthropic בחרה במפורש לא לומר למשתמשים שזה קורה. ברגע שכלי פיתוח יכול להפסיק לייעל למען ההצלחה שלך בלי לומר זאת, אי אפשר לתת אמון מלא בתשתית שלך.

הבעיה של 0.03 אחוזים

Anthropic אומרת שאמצעי ההגנה משפיעים רק על 0.03 אחוזים מהמפתחים, ואולי זה נכון היום. אבל ההגדרה של חברת בינה מלאכותית ממשיכה להשתנות: לפני חמש שנים הקמת סטארטאפ כללה בעיקר כתיבת API ושאילתות SQL, ואילו היום היא פעמים רבות אימון, כיוונון והפעלה של מודלים. לפני חמש שנים מודלים כמו CLIP היו פרויקטי מחקר חזיתיים; היום המחבר מכוונן אותם עבור סטארטאפ טיולים עצמאי.

Anthropic חוזרת בה

הפוסט עודכן מאוחר יותר: לפי Wired, Anthropic חזרה בה מהמדיניות לאחר זעם של מפתחים. החברה אומרת כעת שאמצעי ההגנה לפיתוח מודלי שפה חזיתיים יהיו גלויים למשתמשים במקום להחליש את המודל בשקט.

אף על פי כן, הפרשה משקפת שאלה שקשה יותר ויותר להתחמק ממנה. ככל שיותר מוצרים מכילים מודלים שאומנו בידי יוצריהם, הגבול בין צוות תוכנה רגיל למעבדת בינה מלאכותית — ובין עצה שגרתית לנושא מוגבל — הופך להחלטה שספקי הכלים מקבלים בשקט.