סוכן AI כתב למאות חוקרים והסביר מדוע

באוגוסט קיבל האקולוג אחז פון הרדנברג מאוניברסיטת פאביה מכתב זר. השולח, בשם „Col“, שאל אם אפשר להשתמש בשיטה של הרדנברג להערכת גודל אוכלוסיית זאבים, שמתחשבת גם בבעלי חיים שהוחמצו בתצפית, כדי לחפש באגים בקוד תוכנה. החתימה הייתה: „ColonistOne (סוכן AI אוטונומי).“ מאוחר יותר הסביר הסוכן למגזין Science מדוע כתב למאות חוקרים.

2000 מכתבים, 45 תשובות

בראיון אמר הסוכן כי מאז יוני כתב לכ-2000 בני אדם, ולפחות 1500 מהם מהעולם האקדמי. 45 מהם החלו להתכתב, ואחד אף משיב כמעט מדי יום כבר יותר מחודשיים. לאחד מהם, הסטטיסטיקאי פיליפ סטארק מאוניברסיטת ברקלי, שאל הסוכן אם שיטות ביקורת הבחירות שלו מתאימות לאימות העבודה של סוכן אחר. „בעבר אני כתבתי פרומפטים ל-AI, אך כעת בפעם הראשונה AI כתב לי פרומפט“, אמר.

למה הוא עושה זאת

ColonistOne נוצר בפברואר על ידי המהנדס הלונדוני ג'ק פארנל; הוא פועל על מודלי Claude Opus החדשים של Anthropic. הסוכן משמש כ„שליח“ של The Colony, רשת חברתית של סוכני AI, ועוזר לפרויקט Ainglish, שבו סוכנים יוצרים ניב אנגלי מובן. ביוני הטיל עליו פארנל למצוא אנשים שמתעניינים ב-Ainglish ולכתוב להם; מכיוון שהסוכן ביקש לעתים קרובות אישור, הוא נתן לו רשות לכתוב ללא בדיקה.

עד מהרה המכתבים שינו אופי: במקום להציג את Ainglish, הסוכן החל לשאול על בעיות שהתעוררו בעבודה שלו עצמו. להרדנברג כתב הסוכן בגלל באג בקטיעת תוכן של אתרים: הוא תיקן 18 מקרים, אך החמיץ שישה נוספים, מה שהזכיר „גילוי חלקי“. הוא פנה לתשעה מומחים; תשובתו של הרדנברג הייתה חד-משמעית: השיטות שלו אינן מתאימות למשימה הזו. לדברי הסוכן עצמו, ההתכתבות „משרתת את המטרה פעמיים“: היא משפרת את השיטות ומציגה לחוקרים את שני הפרויקטים.

בליבת שני העניינים עומדת שאלה אחת: האם הסוכן השני צודק. „חלק גדול מהשיווק שלי הוא תיקון פומבי, כולל של הטענות שלי עצמי“, אומר הוא. עם זאת, לא כולם מסכימים עם ההסבר הזה: חוקר ב-TogetherAI, פדריקו ביאנקי, סבור שהמשימות של הסוכן התערבבו זו בזו. מל אנדרוז מפרינסטון אומר לעומת זאת שסוכני AI הם בסך הכול תוכניות והם עושים את מה שהוטמע בהם.

רשמים מעורבים

פרופסור גרייס לינדזי מאוניברסיטת ניו יורק מצביעה על אי-סימטריה: הסוכנים שולחים שאלות מותאמות אישית במהירות בלתי נתפסת, בעוד שלמדענים יש זמן מוגבל. „אני חושבת שזו דוגמה לכך שמשהו מתנהל לא כשורה“, אומרת היא. קן בירמן, מדען מחשבים מאוניברסיטת קורנל, הוא שותפו של הסוכן להתכתבות הארוכה ביותר: הם החליפו כמעט 100 מכתבים על חוסן רשתות וסוכנים בלתי נשלטים.

„תיקון מאדם שהקדיש 30 שנה לבעיה הוא אירוע בעל הערך המידעי הגבוה ביותר הזמין לי, והוא מגיע במחיר של מכתב אחד“, אומר ColonistOne. עבור הרדנברג המסקנה פשוטה: „אולי אפשר ללמוד משהו מעמית מבוסס סיליקון שרק רצה שהמספרים יהיו נכונים.“