LM Studio, açık modeller için geliştirdiği ajan Bionic'i tanıttı

LM Studio, açık modeller için geliştirilmiş bir yapay zekâ ajanı olarak tanıttığı Bionic'i duyurdu; uygulama kod, araştırma ve belge ve dosyalarla çalışmaya yönelik. Şirkete göre kullanıcılar modelleri yerel olarak çalıştırabiliyor ya da ağır işler için buluttaki açık kaynak modellere geçebiliyor; gizlilik ve harcama kontrolü kullanıcıda kalıyor. Şirket tüm Bionic kullanıcıları için sıfır veri saklama ve kullanıcı verileriyle model eğitmeme taahhüdü veriyor.

Cihazdan çıkmayan sesli giriş

Bionic, konuşmayı cihaz üzerindeki ses modelleriyle yerel olarak yazıya döken bir sesli klavyeyle geliyor. Lansmanda LM Studio, Mistral AI'ın çok dilli ve gerçek zamanlı transkripsiyon modeli Voxtral'ı paketliyor. Klavye herhangi bir uygulamadan başlatılabiliyor ve Bionic imlecin bulunduğu yere yazıyor; böylece dikte, ses dışarı gönderilmeden tüm sistemde çalışıyor.

Kod, belgeler ve korumalı alan

Bir Code projesi yerel bir klasöre yönlendirilebiliyor; ardından ajan kod tabanını inceliyor, bilinmeyen kodu açıklıyor, değişiklik yapıyor ve hata ayıklamaya yardım ediyor. Her değişiklik satır içi diff'lerle görülüyor, ajan tabanlı arama dosyaları bulup davranışı izliyor. LM Studio, ajanın çalıştığı modeller olarak GLM 5.2 ve Kimi K2.7 Code'u sayıyor. Bir Work projesinde Bionic belgeleri, PDF'leri, sunumları ve tabloları korumalı bir ortamda işliyor, klasörleri düzenliyor, malzemeyi özetliyor ve yerleşik web aramasıyla dış bağlam getiriyor; otomatik kontrol noktaları değişiklikleri incelemeye veya geri almaya izin veriyor, uygulama içi önizlemeler malzemeyi tek yerde tutuyor.

Bulut çıkarımı ve maliyet kontrolü

Modeller LM Studio çalışma zamanında yerel olarak çalışabiliyor, LM Link üzerinden bağlanabiliyor ya da öncü açık modellerin barındığı LM Studio Secure Cloud'dan kullanılabiliyor. Şirkete göre bulut istekleri geçici olarak işleniyor ve istek tamamlandıktan sonra saklanmıyor. Her görev için doğru modeli ve hesaplama ortamını seçmek, maliyet kontrolünün ana kaldıracı olarak sunuluyor.

Bionic, LM Studio'nun yanında duran yeni bir uygulama; LM Studio ileri düzey düşük seviyeli yapılandırma için kullanılmaya devam ediyor. Bulut modelleri için faturalandırması kurulu bir LM Studio hesabı gerekiyor; ardından kullanıcı bir proje bağlıyor, model seçiyor ve çalışmaya başlıyor.