Musubi'nin PolicyLM-1.7B'si basit İngilizce yazılmış içerik politikasını 50 milisaniyeden daha kısa sürede kullanıyor

Musubi, gerçek zamanlı moderasyon için PolicyLM-1.7B'yi tanıttı

Musubi Salı günü gerçek zamanlı içerik moderasyonu için açık ağırlıklı hafif bir model olan PolicyLM-1.7B'yi tanıttı. Basit İngilizce yazılmış bir politikayı mesajlar üzerinde 50 milisaniyeden daha kısa sürede kullanıyor. Şirkete göre, hız ve maliyet, sosyal platformların çoğunda moderasyon sağlayan AI sınıflandırıcı sistemlerine benzer.

PolicyLM-1.7B, modern büyük dil modelinin esnekliğine sahip olduğundan, Musubi'ye göre özel eğitim olmadan karmaşık politikaları kullanabiliyor. Daha da önemlisi, politika değiştirildiğinde yeni eğitim gerekmez; bu, politika belirleyen kişilerin ihtiyaçlar göz önüne alınarak sık sık gözden geçirmelerine ve iyileştirmelerine olanak tanır.

Metin Yerine İkili Değerlendirme

Karar modelleri, TypeSafe AI'in Jev modelinin Eylül ayında piyasaya sürülmesinin ardından AI dünyasında sıcak bir konu haline geldi; bunu kısa süre sonra OpenAI ve Amazon'un rakip modelleri izledi. Karar modeli metin yerine sonuç olasılıkları üretir. Bu durumda ikili bir değerlendirme sunar: içerik kategoride ya da değil.

Model çıktısını önceden belirlenen seçeneklerle sınırlayan karar modelleri, büyük dil modellerinden daha hızlı ve daha ucuz çalışır ve transformer mimarisinin esnekliğini korur. Erken kullanım, AI ajanlarının uygunsuz davranışlarını engelleme üzerineydi ve Musubi, aynı teknolojinin doğal olarak insanların kötü davranışlarına da hitap ettiğini iddia ediyor.

Platform Ekipleri İçin Oluşturuldu

Musubi'nin kurucu ortağı ve yapay zeka başkanı Filip Jankovic, ürünün platform yöneticilerinin içeriği proaktif olarak işaretlemelerine olanak tanıdığını söylüyor. "Ürün ekipleri sadece platformlarında ne olduğunu daha iyi anlamak istiyor, özellikle içerik miktarının üstel olarak arttığını," diyor Jankovic. "Bunun ölçeklenebilir ve yapılandırılabilir şekilde işaretlenmesi son derece faydalı."

Jankovic, karar modellerine olan ilgisinin Jev ile erken başladığını ve 2024 yılında GLiNER adlı bir projeye kadar gittiğini söylüyor; bu, genel adlandırılmış varlık tanıma modelinin bir kısaltmasıydı ve aynı teknikleri kullanıyordu. Ürünün duyurusu, yeni modeli şu anda endüstrinin dikkatini çeken genel karar modellerine moderasyona odaklı bir alternatif olarak sunuyor: "Jev ilginizi çektiyse, PolicyLM-1.7B aynı tür bir modeldir, özellikle içerik moderasyonu için eğitilmiştir ve siz de kendiniz dağıtabilirsiniz."

Kaynaklar: Techcrunch