RubyLLM: tüm büyük yapay zekâ sağlayıcıları için bir Ruby çerçevesi

Başlamak için tek satır

Büyük yapay zekâ sağlayıcılarının API'lerini tek bir arayüzde toplayan Ruby gem'i RubyLLM'in kurulum komutunda 2.0.0 sürümü yer alıyor: bundle add ruby_llm --version 2.0.0. Bir sohbet oturumu tek çağrıyla başlıyor ve çerçeve konuşma geçmişini saklıyor, böylece takip soruları bağlamda kalıyor.

Kütüphane, geliştiricilerin genellikle elle kurduğu özellikleri kapsıyor: modele görsel, ses kaydı ve PDF gönderme, yanıtları terminale veya bir Rails görünümüne akış halinde iletme, araçları execute metoduna sahip Ruby sınıfları olarak tanımlama ve Ruby şemasıyla istenen yapılandırılmış çıktıyı hash olarak alma.

Ajanlar, toplu işler ve sağlayıcı araçları

Temel sohbetin ötesinde RubyLLM, ajanları model, talimatlar ve araçlardan oluşan Ruby sınıfları olarak tanımlıyor; ask_later ve RubyLLM.batch ile çok sayıda sohbeti paralel çalıştırabiliyor. Çerçeve ayrıca embeddings ve reranking, prompt önbellekleme, token ve maliyet verileriyle kullanım takibi ve kaynak gösteren web araması gibi sağlayıcı tarafı araçlar sunuyor. Medya yetenekleri de var: deşifre, konuşma sentezi, OCR, görsel ve video üretimi ile ihlal durumunu döndüren bir moderasyon çağrısı.

RubyLLM, Rails içinde doğal hissettirecek şekilde tasarlanmış: konuşmalar Active Record ile saklanıyor, yanıtlar Hotwire ile akıtılıyor ve jeneratörler çalışan bir sohbet arayüzünü ajan, araç ve şema iskeletleriyle birlikte üretiyor.

Geliştiriciler ne diyor

Proje, kendi sağlayıcı katmanlarını RubyLLM ile değiştiren ekiplerin değerlendirmelerini yayınlıyor. 37signals'ta kıdemli programcı Jorge Manrubia, şirketin OpenAI API'sini RubyLLM üzerinden kullandığını söylüyor. Nodal Networks'ten Nick Warwick, başarısız bir LangGraph ajanını bu gem ile yeniden kurduğunu anlatıyor: "Yalnızca çok daha basit değildi, daha iyi de çalıştı." Build Canada'dan Brendan Samek, Yuma'da 100 binden fazla son kullanıcıya hizmet veren birleşik arayüzlerinin gereksiz kodla dolduğunu belirtiyor. Diğerleri Rails entegrasyonunu, çoklu sağlayıcı desteğini ve benimsemeden sonra geriye kalan az miktarda kodu öne çıkarıyor.

Gem ayrıca kodlama ajanları için bir skill ile geliyor; paket yolundan npx skills add "$(bundle show ruby_llm)" --skill rubyllm komutuyla kuruluyor ve asistana projenin API'sini, örneklerini ve Rails konvansiyonlarını veriyor.