‏The Coming Loop: מדוע לולאות חיצוניות משנות את פיתוח התוכנה

מפתח התוכנה ארמין רונאכר פרסם ב-23 ביוני מאמר בשם "The Coming Loop", שבו הוא טוען שהשינוי המשמעותי ביותר בפיתוח תוכנה בסיוע בינה מלאכותית אינו סוכן הקוד עצמו, אלא שכבת האוטומציה החיצונית שנבנית סביבו.

המאמר נפתח בציטוט המיוחס לבוריס צ'רני: "אני כבר לא מנסח פרומפטים ל-Claude. יש לי לולאות שכותבות פרומפטים ל-Claude ומחליטות מה לעשות. התפקיד שלי הוא לכתוב לולאות."

שתי לולאות, לא אחת

רונאכר מבחין בין לולאת הסוכן שבתוך כל כלי קוד — המודל קורא לכלי, קורא את התוצאה, עורך קובץ, מריץ בדיקות — לבין לולאת הרמה החיצונית שעוטפת אותה. בתבנית השנייה העבודה נכנסת לתור, מכונה מרימה אותה ומנסה לבצע אותה, ואז השכבה החיצונית מחליטה אם המשימה באמת הושלמה. אם לא, אותו סשן ממשיך עם הודעה נוספת, סשן חדש נפתח עם הקשר שונה, או שהמשימה מועברת למכונה אחרת.

הלולאה החיצונית אינה חדשה, מציין רונאכר, אך בשבועות האחרונים היא עברה משולי ההנדסה האגנטית למרכז הדיון.

איפה זה עובד ואיפה לא

המחבר מודה בגלוי שלולאות אוטומטיות לחלוטין לא הצליחו אצלו בקוד שחשוב לו באמת — הן מטעמי טעם והן מטעמי שליטה. הוא רוצה להיות מסוגל להסביר מה המערכת עושה בלי לבקש ממודל להסביר לו. המודלים של היום, הוא כותב, נוטים לייצר קוד הגנתי מדי ומקומי מדי בחשיבה שלו: הם מוסיפים מקרי גיבוי במקום להפוך מצבים שגויים לבלתי אפשריים, משכפלים לוגיקה וממציאים הפשטות חלשות. הוא מצטט את אנדריי קרפאתי, שאמר שהמודלים "מפחדים עד מוות מחריגות", וטוען שהלולאות מגבירות את ההרגל, כי כל איטרציה מוסיפה עוד הגנה קטנה.

התבנית עובדת טוב בהרבה, לדבריו, כשתוצר העבודה אינו צריך אורך חיים ארוך: העברת קוד בין שפות — הוא מזכיר עבודות מדווחות של העברת Bun מ-Zig ל-Rust ואת הפורט שלו של MiniJinja ל-Go — חקר ביצועים, סריקות אבטחה ומשימות מחקר. בתצורות מוצלחות רבות מודל אחר משמש כשופט או כמתזמר, והשכבה החיצונית זקוקה רק לאות שמספיק כדי להניע איטרציה נוספת.

תוכנה כמערכת חיה

הדאגה המרכזית של רונאכר היא המעבר מתוכנה כמכונה דטרמיניסטית לתוכנה כמערכת חיה: מערכות שמוניטור, מייצבים ומטפלים בהן, אך כבר לא מבינים אותן במלואן. להימנע מכך, הוא טוען, קשה: תוקפים וחוקרי אבטחה יריצו ניתוח אוטומטי נגד כל בסיס קוד, והמתחזקים כבר חשים בלחץ — הוא מפנה לתיאור של דניאל סטנברג על שטף הדיווחים שמגיע לפרויקט curl. הלחץ התחרותי פועל באותו כיוון: צוותים קטנים מאוד משיקים במהירות שנדרשה בעבר להרבה יותר אנשים.

המאמר מסתיים בהשלמה שהלולאות מגיעות, ובניסוח מחדש של השאלה: לא אם צוותים יפעילו אותן, אלא כיצד לא לוותר על שיקול הדעת, לשמור על כללי הנדסה טובים, ולאפשר לאנשים אחראיים להמשיך לפקח על מערכות שנבנות כך.