חוקרי סייבר אינם מרוצים מההגבלות במודל Fable של Anthropic

Anthropic השיקה את Fable ביום שלישי והציגה אותו כגרסה ציבורית ומוגבלת של Mythos, מודל הסייבר שלה. ההגבלות שמלוות אותו עוררו תלונות מצד חוקרי סייבר ואנשי מקצוע, שלדבריהם המסננים מופעלים גם על עבודה שאין לה דבר עם תקיפת מערכות.

מסננים שמזהים נושא, לא בקשה

ולנטינה "צ'ומפי" פלמיוטי, חוקרת אבטחה ב־IBM X-Force, כתבה ש־Fable "דוחה כל בקשה שעשויה להיות קשורה לקיברנטיקה בעקיפין. אפילו משימות תמימות כמו קריאת פוסט בבלוג". כשבקשה מפעילה את מנגנוני ההגנה, המודל עוצר את הצ'אט ומודיע למשתמש ש"אמצעי הבטיחות סימנו את ההודעה הזו כנוגעת לנושאי סייבר או ביולוגיה". חוקר נוסף ציין ב־X שגם בקשה לסקירת קוד מפעילה את המסננים.

מדוע קיימות ההגבלות

Anthropic הציבה אותן כדי לצמצם את הסיכון שישתמשו ב־Fable לכתיבת נוזקות או לפגיעה בתוכנה — דאגה ותיקה של החברה. הגבלות הביולוגיה נובעות מחשש דומה בנוגע לנשק ביולוגי. המודל גם מתוכנת לעבור ל־Claude Opus 4.8 כשמנגנון ההגנה מופעל. במקביל מפעילה Anthropic את תוכנית Cyber Verification Program: אנשי אבטחה מאושרים מקבלים פחות הגבלות בשימוש ב־Claude. ל־OpenAI יש תוכנית דומה בשם Trusted Access for Cyber.

Mythos ו־Project Glasswing

כשהשיקה Anthropic את Mythos באפריל, היא הגבילה את המודל למספר קטן של חברות וארגונים במסגרת Project Glasswing, שמטרתה לאבטח תוכנה ותשתיות קריטיות. בשבוע שעבר החברה הרחיבה את הגישה למאות ארגונים ב־15 מדינות.

התאמת מילות מפתח, לא שיקול דעת

מאט סוויש, ותיק בתחום הסייבר שמועסק כעת בסטארט־אפ האבטחה Tolmo, אמר ל־TechCrunch: "אם מבקשים ממנו לכתוב קוד מאובטח, הוא מניח שזו עבודת סייבר ולא שיטות הנדסת תוכנה טובות, ואתה מקבל הורדה בדרגה". לדעתו הטריגרים מבוססים על מילות מפתח, ולכן כל דבר מהשדה הלקסיקלי של סייבר מפעיל אותם. הוא הוסיף שהגישה מובנת בשלב הזה ושסביר שההגבלות יוקלו עם הזמן: "עדיף לתפוס יותר אנשים מאשר מעט מדי בהשקה כזו, ולהרפות מההגבלות בהמשך". Anthropic לא הגיבה מיד לבקשת תגובה.