RubyLLM: פריימוורק Ruby לכל ספקי ה-AI המובילים

שורה אחת כדי להתחיל

RubyLLM — ג'ם ל-Ruby שעוטף את ה-API של ספקי ה-AI המובילים בממשק אחד — מופיע בגרסה 2.0.0 בפקודת ההתקנה: bundle add ruby_llm --version 2.0.0. הפעלת צ'אט מתחילה בקריאה אחת, והפריימוורק שומר את היסטוריית השיחה כך ששאלות המשך נשארות בהקשר.

הספרייה מכסה את מה שמפתחים בדרך כלל מרכיבים בעצמם: שליחת תמונות, הקלטות אודיו וקבצי PDF למודל, סטרימינג של תשובות לטרמינל או לתצוגת Rails, הגדרת כלים כמחלקות Ruby עם מתודת execute, ובקשה לפלט מובנה דרך סכימה ב-Ruby שמוחזרת כ-hash.

סוכנים, אצוות וכלי ספק

מעבר לצ'אט בסיסי, RubyLLM מגדיר סוכנים כמחלקות Ruby עם מודל, הוראות וכלים, ויכול להריץ צ'אטים רבים במקביל דרך ask_later ו-RubyLLM.batch. הפריימוורק מציע גם embeddings ו-reranking, שמירת פרומפטים במטמון, מעקב שימוש עם נתוני טוקנים ועלות, וכלים בצד הספק כמו חיפוש ברשת עם ציטוטים. גם יכולות מדיה נכללות: תמלול, סינתזת דיבור, OCR, יצירת תמונות ווידאו, וקריאת מודרציה שמחזירה סטטוס הפרה.

RubyLLM תוכנן להרגיש טבעי ב-Rails: אפשר לשמור שיחות עם Active Record ולשדר תשובות עם Hotwire, והגנרטורים יוצרים ממשק צ'אט עובד יחד עם שלדים לסוכן, לכלי ולסכימה.

מה אומרים המפתחים

הפרויקט מפרסם המלצות של צוותים שהחליפו את שכבת הספקים שלהם ב-RubyLLM. חורחה מנרוביה, מתכנת ראשי ב-37signals, אומר שהחברה משתמשת ב-API של OpenAI דרך RubyLLM. ניק ווריק מ-Nodal Networks מתאר בנייה מחדש של סוכן LangGraph שנכשל: "לא רק שהיה פשוט בהרבה, הוא גם פעל טוב יותר". ברנדן סמק מ-Build Canada מספר שהממשק המאוחד שלהם שירת יותר מ-100 אלף משתמשים ב-Yuma והצטבר בו קוד מיותר. אחרים מדגישים את האינטגרציה עם Rails, את התמיכה בריבוי ספקים ואת מעט הקוד שנותר אחרי האימוץ.

הג'ם מגיע גם עם סקיל לסוכני קוד, שמותקן מנתיב החבילה בפקודה npx skills add "$(bundle show ruby_llm)" --skill rubyllm ומספק לעוזר את ה-API, הדוגמאות והקונבנציות של הפרויקט.