Musubi PolicyLM-1.7B використовує політику контенту, написану простою англійською, за менше ніж 50 мілісекунд

Musubi представила PolicyLM-1.7B для модерації в реальному часі

Musubi у середу представила PolicyLM-1.7B, легку модель з відкритими вагами для модерації контенту в реальному часі. Вона використовує політику, написану простою англійською, за менше ніж 50 мілісекунд. За словами компанії, швидкість і витрати подібні до систем AI-класифікаторів, які забезпечують модерацію на більшості соціальних платформ.

Оскільки PolicyLM-1.7B має гнучкість сучасної великої мовної моделі, за словами Musubi, вона використовує складні політики без спеціального навчання. Ще важливіше, при зміні політики нове навчання не потрібне, що дає можливість розробникам політики багаторазово переглядати та вдосконалювати її за необхідності.

Бінарна оцінка замість тексту

Моделі рішень стали гарячою темою в світі AI у вересні після виходу Jev від TypeSafe AI, за яким незабаром послідували конкурентні моделі від OpenAI та Amazon. Модель рішень видає ймовірності результату замість тексту. У цьому випадку вона надає бінарну оцінку: контент або належить до категорії, або ні.

Моделі рішень, обмежені попередньо визначеними варіантами, працюють швидше і дешевше, ніж великі мовні моделі, і зберігають гнучкість архітектури трансформера. Раннім застосуванням було припинення неадекватної поведінки AI-агентів, і Musubi стверджує, що та сама технологія природним чином стосується поганої поведінки людей.

Створено для команд платформ

Співзасновник Musubi і головний офіцер з AI Filip Jankovic каже, що продукт дає можливість менеджерам платформ проактивно позначати контент. „Командам продуктів просто потрібно краще розуміти, що відбувається на їхній платформі, особливо враховуючи, що кількість контенту зростає експоненційно“, — каже Jankovic. „Масштабоване та конфігуроване позначення всього цього надзвичайно корисне.“

Jankovic каже, що інтерес до моделей рішень почався рано з Jev і привів до проєкту 2024 року під назвою GLiNER, який є стислою версією загальної моделі розпізнавання іменованих сутностей і використовував ті самі техніки. Анонс продукту представляє нову модель як альтернативу, орієнтовану на модерацію, для загальних моделей рішень, які зараз привертають увагу індустрії: „Якщо Jev привернув вашу увагу, PolicyLM-1.7B — це модель того самого типу, спеціально навчена для модерації контенту, яку ви можете запустити самостійно.“

Джерела: Techcrunch