סוכן Codex השיג ליבת QR מהירה פי 232 בתחרות מחקר אוטומטי

בתחרות מחקר אוטומטי שארגנו GPU Mode ו-Core Automation הגיע מפתח בשם sankalp למקום ה-12 מתוך 183 משתתפים. הפתרון שלו רץ פי 232 מהר יותר מליבת פירוק ה-QR הבסיסית. בפוסט בבלוג הוא מתאר כיצד השתמש בסוכן Codex של OpenAI ובלולאת הגשה צפופה — גישה שהוא מכנה "loop engineering".

הבעיה: פירוק Householder QR באצוות

המשתתפים נדרשו לממש פירוק QR קומפקטי של Householder עבור חבילות מטריצות מרובעות. הקלט היה חבילת מטריצות FP32 CUDA בצורה batch × n × n, והפלט — אותו ייצוג קומפקטי שמחזיר torch.geqrf: המשולש העליון של H מכיל את R, החלק התחתון שומר את וקטורי Householder, ולצידם וקטור tau עם מקדמי ההשתקפות. בודק חיצוני בנה מחדש את Q באמצעות torch.linalg.householder_product(H, tau) ואימת את התנאים A ≈ QR, QᵀQ ≈ I ו-QᵀA ≈ R.

ההגשות הנכונות דורגו לפי זמן ריצה בממוצע גאומטרי על פני גדלים ומקרי תלות. הגדלים המרכזיים היו 512×512, וכן 1024, 2048 ו-4096. בפנים התאפשר חשבון FP16, FP8 או NVFP4, אך התוצאה עדיין נדרשה לעבור בדיקות ברמת FP32.

Codex בתוך הלולאה

GPU Mode סיפקו כלי CLI בשם popcorn שאפשר לסוכנים לבדוק, למדוד ולהגיש ישירות לטבלת הדירוג. במשך 14 ימים ביצע המחבר יותר מ-1,500 הגשות. בסביבת העבודה של Codex היו תיאור הבעיה, קובץ AGENTS.md עם הוראות הגשה ויומן שעקב אחרי כל ניסיון. הוא השתמש בפקודה /goal כדי לתת יעדים מספריים, ב-/btw כדי לבדוק את הסוכן בלי לעצור את הלולאה, ובפרופיילינג של Modal ו-NCU כדי לאתר צווארי בקבוק.

כדי לא להיתקע במקסימום מקומי החזיק המחבר "אלומה" של שלושה עד חמישה רעיונות במקביל, הזמין מודל יועץ חזק יותר לרעיונות חדשים, ושלח לעיתים תת-סוכנים לניסויים נפרדים.

מ-419 מילישניות ל-1.8

המסלול הבסיסי של torch.geqrf ארך כ-419,000 מיקרו-שניות. לאחר יישום אלגוריתם Householder החסום עבור n = 512 הגיע המחבר בתוך יום ל-5,000 מיקרו-שניות, והתוצאה הסופית שנרשמה הייתה 1,805 מיקרו-שניות. האלגוריתם החסום דוחס את השתקפויות הפאנל לעדכון WY יחיד מדרגה b, והופך את העבודה על החלק העוקב לשלוש הכפלות מטריצות — הצורה שליבה של Tensor עובדות איתה היטב.

מה עובר הלאה

המסקנה של המחבר: מומחיות בתחום מאיצה גם את בניית הסביבה וגם את הכיוון של הסוכן — ככל שמכירים את הבעיה טוב יותר, כך שאלות הפרומפט מדויקות יותר. זו הייתה, לדבריו, הפעם הראשונה ברצינות שלו במחקר אוטומטי, והתחרות השנייה בסדרה — על פירוק עצמי — כבר בעיצומה.