Vercel הוסיפה Daemons פעילים לצמיתות, תמיכה מלאה ב-Python ו-Drives עבור סוכני AI

Daemons לתהליכי רקע פעילים לצמיתות

Vercel הציגה את Daemons ביום חמישי בכנס Ship שנערך בסן-פרנציסקו. השירות נמצא בטא ציבורי: מפתחים יכולים להפעיל קונטיינר ולהגדיר את מספר המופעים באזור. Vercel שומר על התהליכים פעילים ומפעיל מחדש אותם בעת השבתה. Daemons תומך בעומסי טעינה מסוג pull: עובדים לוקחים משימות מתור או ממסד נתונים ומעבדים אותן.

מנהל הטכנולוגיה הראשי, מאלטה אובל, אמר שזה ירידה נוספת בסטאק והמטרה היא שיותר צוותים ישתמשו ב-Vercel כספקית תשתית. הוא השווה זאת לעבודה מופעלת על ידי בקשות והביא את צינור הפריסות של Vercel לדוגמה: צינור הפריסות לא מעבד תהליך שמקבל בקשת API. עם Daemons, עובדים עוברים לפעולה, מבקשים עבודה ומעבדים אותה. לפי החברה, אחרי הבטא הציבורי של קונטיינרים, 5,000 צוותים ביצעו 150,000 פריסות.

דוגמת worker של Next.js ו-Python

הדוגמה של Vercel מאחדת פרונטאנד של Next.js, API של Python ומעבד וידאו מקונטיינר. הקונטיינר מאחד את תלויות Python ו-FFmpeg, ומקבל משימות מ-Vercel Queues לקיבוץ קבצים ויצירת תמונות ממוזערות. אובל תיאר טרנסקודינג כעומס המחובר ל-CPU, שבו המכונות צריכות להיות ב-100% CPU. לפיו, Daemons הוא הנגד של sandbox זמני: הם נשארים פעילים, אבל לא מופעלים על ידי בקשות מהאינטרנט.

תמיכה ב-Python הפכה לזמינה לכולם

Vercel הפכה את תמיכת Python עבור FastAPI, Flask ו-Django לזמינה לכולם. האפליקציות רצות על CPython סטנדרטי עם תלויות PyPI, ו-Vercel מזהה את המסגרת, מבצע build ו-scaling. לפי החברה, 150,000 צוותים כבר מעבדים מערכות Python backend בפלטפורמה, כולל מהנדסים של OpenAI, Polymarket ו-Exa.

אובל אמר על קונטיינרים שזה פשרה של ניהול image. עם runtime מנוהל של Node, Bun או Python, Vercel מעלה עדכוני אבטחה בלי פריסות מחדש של המשתמש. בקונטיינר, לפיו, ה-image הוא בסופו של דבר אחריות המשתמש, כי Vercel רואה אותו כבייטים. את Daemons אפשר להפעיל עם Git או Vercel CLI; Vercel בונה את ה-image ושומר אותו ב-Container Registry.

Drives נועד לקבצים שחורגים מגבולות ה-sandbox

Vercel הפכה גם את Drives לזמינה לכולם. זהו אחסון קבוע לסוכני AI שמוציא את קבצי הסוכן מחוץ ל-sandbox שהריץ את הקוד. סוכן יכול להצמיד drive ל-sandbox חדש, להחליף runtime ולהמשיך לעבוד עם קבצים שנוצרו כבר. אובל כינה אותו היבריד של drive רשת בסגנון EBS ו-object storage, ואמר ש-AWS לא מציעה שילוב כזה. הכתיבה מתבצעת על דיסק NVMe מקומי ומתווספת א-סינכרונית ל-object storage; הקריאה משתמשת בדיסק מקומי אם הוא קיים, אם לא – בבלוקים בלבד.

אובל אמר ש-Drives טוב יותר לסוכנים מ-snapshots, כי snapshots נעשה גדול כשלוקח את אותה חומרה קבועה. הצמדה של תיקיית עבודה אחת מאפשרת לסוכנים לטעון מאותו image מקואש אחיד. עם Drives סוכנים יכולים להשתמש בתוצרי עבודה של אחדים: אחד מכין מטעני נתונים, אחרים מצמידים עותקים לקריאה בלבד לניתוח או לדוחות, וסוכנים יכולים לעשות fork של drive לסביבות בדיקה נפרדות. לפיו, fork לא מתמזג במקור, לכן מפתחים צריכים לומר לסוכן איפה לכתוב, ואז להצמיד את התיקייה הזו ל-drive קבוע. Drives זמין בכל תוכניות Vercel, עם נפחי ברירת מחדל של 1 TiB, או 1 GiB ב-Hobby, ועד ל-16 TiB בתצורה.

מקורות: The New Stack