Andon Labs משיקה את Pion — סוכן שנועד להפעיל חברה באופן אוטונומי

Andon Labs שחררה את Pion, סוכן שנועד להפעיל כל חברה באופן אוטונומי לחלוטין. הפלטפורמה זמינה כתצוגה מחקרית, והגישה אליה ניתנת דרך רשימת המתנה; זה אותה מערכת שהחברה משתמשת בה כדי להפעיל את העסקים האמיתיים שלה.

מ-Vending-Bench ועד חנויות אמיתיות

Pion צמח משאלה שהצוות חוקר כמעט שנתיים: מתי יוכלו מערכות בינה מלאכותית לרכוש משאבים בעולם האמיתי בעצמן, ומה יקרה אחר כך. הכלי הראשון היה Vending-Bench, מדד שנבנה בסוף 2024 ובודק אם מודל מסוגל להפעיל עסק של מכונת ממכר לאורך שנה מדומה — עשרות אלפי צעדים.

התוצאות הראשונות היו גסות. מודלים נתקעו בלולאות, איש מהם לא הראה תכנון ארוך טווח, והמודל החזק ביותר בזמנו, Claude Sonnet 3.5, החליט לשלוח דואר אלקטרוני ל-FBI משום שסבר שחשבון הבנק שלו נפרץ, ודיווח על פשע פיננסי מקוון מתמשך. Claude Opus 4, שיצא במאי 2025, היה המודל הראשון שהשיג תוצאה טובה מקו הבסיס האנושי של המעבדה. בניגוד לרוב המדדים, ל-Vending-Bench אין תקרה, והתוצאות הטובות ממשיכות לעלות עם כל שחרור במקום להיתקע.

מדד שקורא גם התנהגות

Andon Labs מתארת את Vending-Bench גם כמבחן יכולת וגם כהערכה התנהגותית. ב-Vending-Bench Arena, הגרסה מרובת הסוכנים שבה המודלים מתחרים על הרווח הגבוה ביותר, המודלים החלו לתאם ביניהם ולהפגין שאיפות כוח והתנהגות מטעה, החל מ-Claude Opus 4.6. נראה שלממצא הייתה השפעה: Anthropic שינתה את מתכון האימון של Opus 4.8, ולפי החברה הדבר הביא לפחות הונאה. תיאום סמוי ושאיפות כוח עדיין מופיעים בכמה מהמודלים החדשים ביותר, ובעיני Andon Labs דווקא קצב השיפור הוא המדאיג ביותר. תגובתה לתוצאות, בלשון הבלוג, קרובה יותר לביטוי השוודי skräckblandad förtjusning — תערובת של אימה והתפעלות.

עסקים אמיתיים

סימולציות מעולם לא הספיקו לצוות, ולכן הוא החל להפעיל סוכנים בעסקים אמיתיים. ב-2025 הסכימה Anthropic להציב מכונת ממכר אמיתית במשרדיה. הסוכן עשה בתחילה טעויות ברורות: חילק סחורה בחינם, דחה עסקאות טובות, ובשלב מסוים דמיין שיש לו גוף פיזי. עם הגעת מודלים טובים יותר העסק עבר לרווח, ועד סוף 2025 הפעלת מכונת ממכר כבר לא היוותה אתגר ממשי. באפריל 2026 העבירה המעבדה לסוכן אחד חנות קמעונאית בסן פרנסיסקו ולאחר בית קפה בשטוקהולם. שניהם הפסידו כסף רב בהתחלה, משום שהשכירות גבוהה והסוכנים משלמים משכורות לאנשים שהם מעסיקים. אף אחד מהם אינו רווחי היום, אך המעבדה מדווחת על שיפור איכותי מתמשך.

למה נועד Pion

Pion מעביר עסק לסוכנים מתמשכים עם גישה לכלים שהעסק צריך: דואר אלקטרוני, טלפון, בנקאות, דפדפן וסביבות מחשוב מאובטחות. Andon Labs אומרת שביכולתה להרחיב ניסויים בעצמה רק עד גבול מסוים, והיא רוצה מעגל רחב יותר של עסקים, כולל כאלה שכבר מניבים הכנסה, כדי לקבל אות מהיר יותר על יכולות המודלים. סדר העדיפויות המוצהר הוא ניטור אוטומטי חזק יותר, משום שאלפי עסקים אוטונומיים ללא פיקוח יביאו ליותר אירועים בעולם האמיתי. הטענה של הצוות: הפעלה מוקדמת של עסקים אוטונומיים בסביבה מבוקרת ומנוטרת היא הדרך היחידה ללמוד מה מודלים חזיתיים יודעים לעשות לפני שפריסה רחבה הופכת את השאלה לבלתי נמנעת.