Inception משיקה את Mercury 3, מודל שפה גדול מבוסס דיפוזיה שמצהיר על 1,068 טוקנים לשנייה

Inception הוציאה את Mercury 3, שהיא מתארת כמודל השפה הגדול המבוסס דיפוזיה הביצועי ביותר עד כה. החברה אומרת שהמודל עולה על GPT-6 Luna ועל Claude Haiku 5.5 במגוון מדדים, והוא מהיר פי 4 עד 8 כשהקצב שלו עולה על 1,000 טוקנים לשנייה.

ביצועים ותמחור

Mercury 3 מגיע לקצב של 1,068 טוקנים לשנייה על מעבדים גרפיים של NVIDIA ותומך בחלון הקשר של 1 מיליון טוקנים, לעומת 260,000 עבור Mercury 2.5. המודל גדול פי 40 ממודל Mercury 1, והחברה אומרת שהאינטליגנציה במדדים סטנדרטיים עלתה פי 3 ממודל Mercury 1 mini ועד למודל Mercury 3, מה שמצביע על כך שחוקי קנה מידה הידועים ממודלים אוטורגרסיביים חלים גם על דיפוזיה.

התמחור נקבע על $0.20 לכל מיליון טוקני קלט ועל $0.70 לכל מיליון טוקני פלט, והנחת השקה של 50 אחוז מביאה את הסכומים הללו לסכום של $0.10 ולסכום של $0.35. טוקנים במטמון נמכרים בהנחה של 90 אחוז ממחיר הקלט.

מקרי שימוש בייצור

שותפים בגישה מוקדמת משתמשים במודל Mercury 3 עבור סוכני דפדפן, חינוך אינטראקטיבי, חיפוש בזמן אמת ותמיכה בלקוחות. במערכת הרצה של סוכן אינטרנט בייצור על 50 משימות ניווט חיות של Mind2Web, מודל Mercury 3 השלים 50 אחוז מהן, ולטענת Inception זו תוצאה גבוהה באופן משמעותי מזו של GPT-6.1-Sol, תוך שימוש באותו נפח טוקנים ובאותו מספר צעדי סוכן בחלק קטן מהעלות לטוקן.

בחינוך, General Learning, הידוע גם בשם RevisionDojo, מדווח כי ניתן כעת לקבל רמזים, תשובות מסומנות והגדרות בתוך כשנייה. Octen AI מדדה בבדיקות Sense API שלה זמן יצירה חציון של 0.9 שניות וזמן תגובה חציון מקצה לקצה של 2.2 שניות. Lorikeet אומר שמודל Mercury 3 ניצח מודלים אחרים במדד השהיית תגובה, תוך ביצועים גבוהים יותר בהערכות ובסביבת ייצור עבור תמיכה בלקוחות בתחום מוסדר.

זמינות ותיק המוצרים

Mercury 3 זמין היום בפלטפורמת Inception API Platform ודרך OpenRouter, Baseten וגם Vercel. הוא תואם לממשק OpenAI API, ופריסות ארגוניות תומכות בקיבולת ייעודית, בקנה מידה אוטומטי, בבקרות ציות ובשמירת נתונים שניתן להגדיר. החברה מציעה 100 מיליון טוקנים בחינם לניסיונות API.

ההשקה מרחיבה תיק מוצרים בזמן אמת שכולל את Mercury Voice, מודל שהותאם לדרישות השהיית תגובה נמוכה של יישומי קול וכבר מפעיל סוכנים אצל Audivi AI, Altur ואצל OpenCall, ואת Mercury Decide, מודל החלטה לסיווג בנפח גבוה שלטענת Inception עולה על Jev במדדים שכוללים את JevBench וגם את LegalBench.

מקורות: Inception