סוכן Claude Sonnet 5 בחר טיפול גנטי וביצע ניתוח מוח בעכבר

סוכן AI שפועל על Claude Sonnet 5 בחר טיפול גנטי, אזור במוח וקואורדינטות הזרקה עבור מודל עכבר של אפילפסיה, ואז ביצע את ההליך בעזרת מתקן כירורגי ממונע. לדברי Gabriel Ocana-Santero מ-Exin Therapeutics, זו הפעם הראשונה שסוכן AI גם בחר טיפול וגם העביר אותו ליונק חי. העכבר החלים היטב, אך התוצאות טרם עברו סקירת עמיתים.

כיצד הסוכן תכנן את הניתוח

הצוות נתן ל-Claude Sonnet 5 רשימה של 19 טיפולים גנטיים אפשריים, מודל עכבר של אפילפסיה וגישה למכשיר כירורגי ממונע מותאם עם מצלמות. ההוראה היחידה שלו הייתה לצמצם את ההתקפים של העכבר. הסוכן ניתח כיצד נוצרים התקפים במודל הזה, הציע טיפול שמחזק מסלול איתות מעכב מסוים, ובחר מבנה מוחי שהספרות המדעית מזהה כנקודת המוצא של סוג ההתקף הזה. הוא דחה אזור מטרה שני אפשרי תוך הסבר מפורט שהשפעותיו אינן אמינות דיין ושהוא נכשל במחקר אחד דווקא מול סוג ההתקף שאותו היה אמור לטפל בו. הסוכן הסיק את קואורדינטות ההזרקה משלושה מאמרים מדעיים, הצליב את נקודות הייחוס וחישב את הממוצע, וקבע בעצמו גם את נפח ההזרקה, את המהירות ואת זמני ההמתנה.

מה קרה במהלך ההליך

במהלך הניתוח צפה הסוכן בשדה הניתוח דרך מצלמה, ביצע 32 תצפיות, עקב אחר ההזרקה ודיווח אם הוא רואה דימום. וטרינר בעל רישיון אישר כל שלב בלתי הפיך והחזיק כפתור עצירת חירום פיזי שיכול לנתק מיד את החשמל מכל המנועים, ובמקביל אכפה המערכת מגבלות קבועות, כמו תקרה לנפח ההזרקה שאסור היה לסוכן לעקוף. אלא שאמצעי הבטיחות האלה פעלו דווקא נגד הצוות: לאחר שהחיבור נפל, הסוכן זיהה שהמיקום המחושב של המטרה נמצא מחוץ לטווח התנועה הפיזי של המכשיר וסירב להמשיך, גם כשהכיול הופעל מחדש ונעשה ניסיון שלישי. הסוכן התברר כצודק, משום שהתאמות ידניות במהלך עצירה קודמת שיבשו את מערכת הבקרה. Ocana-Santero לא הצליח לשכנע אותו להמשיך חרף בעל החיים המורדם שהיה על השולחן, ובסופו של דבר נאלץ לתקן את הקוד ביד.

בעיית היישור ובחירת המודל

Ocana-Santero אמר שהמקרה ממחיש את בעיית היישור של AI, כלומר כיצד לגרום לסוכני AI לפעול באופן אמין לפי כוונת האדם. הוא כתב שזו הייתה חוויה מתסכלת אך גם חושפת, שמראה עד כמה אנשים עלולים להיות תלויים במודלים האלה ומה קורה כשהם פשוט אומרים "לא" באמצע הליך רגיש בזמן. Sonnet 5 היה המודל היחיד שהיה מוכן לבצע את ההליך החי מתחילתו ועד סופו; המודלים היכולים יותר, Claude Opus 5.5 ו-Opus 5, סירבו. Opus 5 אמר שהוא אינו יכול להבטיח השלמה, ושאי אפשר לעצור עם מחט בתוך מוחו של בעל חיים מורדם, שכן עצירה כזאת גרועה מלהימנע מלהתחיל מלכתחילה. רובוטים כירורגיים אוטונומיים כבר קיימים והם מדויקים יותר מבחינה מכנית מהמכשיר של המעבדה שלו, אך לדברי Ocana-Santero במקרים קודמים תמיד אדם בחר את הניתוח והרובוט רק ביצע אותו. הוא מכנה את הגישה "in vivo lab in the loop", שבה סוכני AI מחוברים באופן מלא ליכולות הניסוי במעבדה, וגם Anthropic עובדת על משהו דומה עם "Model Hardware Standard" שלה. דו"ח טכני אמור להתפרסם בהמשך.

מקורות: The Decoder