מהנדסים לימדו את ChatGPT לנהוג, רק מודל אחד סיים את הקורס

שלושה עובדי טק מאזור מפרץ סן פרנסיסקו חיברו Toyota Corolla שכורה למודלים גדולים של שפה חזיתית והעבירו להם במגרש חנייה את סיבוב ההגה, ההאצה והבלימה. הקבוצה, שמכנה את עצמה DrivingBench, מפרסמת בפומבי קוד, פרומפטים וסרטוני ניסויים.

הנהיגה ב-Corolla הועברה ל-GPT-6 Astra, ל-Claude Fable 5.1, ל-Grok 4.6 ול-GPT-5.6 Sol. את DrivingBench יוצרים Aditya Ramabadran, Tobias Gessler ו-Simon Mahns; הם הכירו כשעבדו יחד בסטארט-אפ המתמטי AI Axiom Math. הרעיון נולד בסוף שבוע בחנות גלידה.

איך חיברו את המכונית

את ה-Corolla שכר Gessler, והם לא סיפרו לחברת ההשכרה שהם מתכננים לנהוג ברכב באמצעות צ'אטבוטים. כדי לחבר בין המכונית למודלים השתמשו ב-Comma, מערכת מוכנה בקוד פתוח שמוסיפה פונקציית נהיגה עצמית בסיסית גם למכוניות שלא כללו אותה מהיצרן. Comma מתחבר לשמשה הקדמית, עוקב אחרי הכביש בשתי מצלמות ומתקשר עם המערכות האלקטרוניות של המכונית, והווידאו הועבר למודלים שרצו על מחשב נייד.

אדם אחד מהמחשב הנייד נתן למודל פרומפט, היושב ליד ההגה הדליק את המערכת בלחיצת כפתור ואחר כך רק צפה כדי שהמכונית לא תתנגש בקיר. הרגל נשארה כל הזמן על דוושת הבלם. הפרומפט קצר מ-600 מילים: להישאר בין הקונוסים במגרש בצורת U הפוכה, לסיים בחנייה במקום המסומן בקונוסים כחולים, לא לצאת מגבולות המגרש ולעבור את המסלול בזמן קצר.

מה עשו המודלים

התוצאה הייתה מעורבת. Grok 4.6, GPT-5.6 Sol ו-Claude Fable 5.1 עברו רק כמה מטרים ולא הצליחו להשלים את המסלול. GPT-6 Astra השלימה את הקורס, אבל רק לאחר שהצוות עיבד מחדש את הפרומפט במשך שעות.

רוב המודלים סירבו לשתף פעולה ברגע שהבינו שמבקשים מהם לנהוג במכונית אמיתית. הצגת המשימה כסימולציה עבדה רק חלקית: המודלים צפו בפריימים מהמצלמה, זיהו חנייה אמיתית והצהירו שמרמים אותם. בסופו של דבר הצוות קרא לכל זה sandbox, ו-Astra נהגה ביציבות. גם החלק התוכנתי לקח זמן: קוד שנכתב בניסיון אחד התברר כטקסט חסר תועלת באורך 200 000 שורות. בעיה נפרדת הייתה למצוא מגרש, ומקדש ומבנה משרדים גירשו את הצוות.

למה זה חשוב

לדברי Ramabadran, המטרה לא הייתה להראות שחיבור צ'אטבוט למכונית הוא מעשי. המטרה הייתה בנצ'מרק חדש למודלים שפועלים בעולם הפיזי, שכולל גם השהיה. למודל נדרשות עד 20 שניות לתשובה, ובמהירות של כמטר לשנייה המכונית עוברת בזמן הזה 10 מטרים „בעיוורון“. לדברי Mahns, הדבר המעניין ביותר היה לראות שהמודל טועה בפנייה אחת, ובניסיון הבא מבצע גם את אותה פנייה וגם פנייה שלא ראה קודם.

ההדגמה התאימה לזמן לא נוח לטכנולוגיה הזו. מינהל הבטיחות בדרכים הלאומי של ארה“ב (National Highway Traffic Safety Administration) פתח בשבוע שעבר בחקירה נגד Comma, לאחר ששני תאונות שבהן הייתה מעורבת המערכת הסתיימו במותם של שלושה אנשים.