מעבדת הבינה המלאכותית של Anthropic הודיעה על תגלית, ביולוגים חולקים על כך

Anthropic הודיעה ביום רביעי שעבר שמעבדת הביולוגיה המולקולרית שהקימה בתחילת השנה רשמה את התגלית הראשונה שלה. במעבדה קוראים סוכני Claude ומעלים השערות על בעיות ביולוגיה קשות, בעוד מדענים אנושיים מתכננים ומריצים ניסויים על מה שהסוכנים מדווחים.

מה הסוכנים באמת מצאו

אחרי 21 שעות מערכת של 950 סוכנים לא הציגה רצף DNA חדש לגמרי. היא הצביעה על תבנית חוזרת סביב אנזים מוכר, שלדברי החברה לא תועדה בעבר. בהודעת Anthropic התבנית תוארה כ"מזכירה" את העבודות שהובילו ל-CRISPR, טכנולוגיית עריכת הגנים, שלדברי החברה "כבר שינתה את המדע והרפואה".

הניסוח הזה הרגיז חלק מהביולוגים. בפוסט ויראלי של לוקאס הרינגטון, שלו הצטרפו בהמשך יו"ר ומנכ"ל חברת התרופות Eli Lilly, נכתב: "מציאת אשכול מוזר של גנים וחזרות היא לעתים קרובות החלק הקל. החלק הקשה, ומשם מגיעות תגליות אמיתיות, הוא להבין מה המערכת הזו בעצם עושה". הסוכנים עזרו בעבודת מעבדה שגרתית, לדבריו, אבל תגלית זו לא.

טענה שכבר הושמעה

בסוף השבוע אמר הביולוג מריו רודריגס מסטרה מאוניברסיטת קופנהגן שצוותו כבר מצא את אותה תבנית, כך דיווח ה-New York Times. מסטרה, שמשוחח עם Claude בעבודתו, תוהה אם חוקרי Anthropic למדו מהשיחות שלו. החברה מכחישה, אך מסטרה מפסיק בכל זאת להשתמש ב-Claude.

המחלוקת אינה על תבנית אחת. חברות AI אינן מציגות את המערכות שלהן ככלים שמדענים יכולים להשתמש בהם, כמו מיקרוסקופ או מחשב-על. הן מתעקשות שהמודלים עצמם עושים תגליות. חלק מהחוקרים רואים בכך ניגוד לאופן שבו המדע עובד, שבו ידע נולד בדרך כלל משיתוף פעולה ומארסנל גדל של מכשירים.

למה הניסוח חשוב

לצמצם 200,000 מועמדים לכמה בודדים שראוי לבדוק היא עבודה מדעית אמיתית, והעובדה שצ'אטבוט כללי מצליח לעשות חלק ממנה ראויה לציון, גם כשבני אדם מנווטים את התהליך ומריצים את הניסויים בעצמם. אבל ברגע שהשאלה היא אם Claude עצמו עשה תגלית, הוויכוח מצטמצם לשתי תשובות: פריצת דרך או כישלון. מסגור כזה גם מזמין להזיז את השער לאחר הצלחה אמיתית.

בתחילת החודש אמרה OpenAI שסוכני הצוות שלה פתרו בעיית מתמטיקה בשווי מיליון דולר. כעבור שבועיים כבר שיתפו ספקנים מאמר ששאל אם זו הבעיה שבאמת חשובה למתמטיקאים. המאמר לא טען שהפתרון שגוי, אלא שהתוצאה אולי אינה זו שמעניינת אותם ביותר. לכך נוספה טענתו של מתמטיקאי שהמודלים אולי השתמשו בעבודתו בלי קרדיט.

הרינגטון סיים את הפוסט בהצעה: חברות AI צריכות "להציב את הרף גבוה כבר עכשיו, כך שכאשר AI יגלה מנגנון ביולוגי חדש מהיסוד, כולם יבינו כמה זה גדול". בזמן שסם אלטמן מ-OpenAI ודריו אמודיי מ-Anthropic מנסים לעקוף זה את זה, להעלות את הרף הזה הוא אולי הדבר האחרון שעל דעתם.