Gartner deyir açıq çəkili modellər agent işinin 90%-ni sərhəd LLM qiymətinin bir hissəsinə edə bilər

Gartner analitikləri Mark Petty və Raymond Paquet deyir ki, mənfəət güdən model istehsalçıları agent AI iş axınlarının yalnız təxminən on faiz addımından gəlir qazanmağa çalışacaq, çünki on addımdan doqquzu rutindir və açıq çəkili modellər onları ən ucuz qapalı modelin qiymətinin dörddə birinə paritetdə idarə edə bilər. Ən yaxşı hallarda açıq çəkili modellər agent işinin 90 faizini hər addımda sərhəd LLM işlətmək xərcinin iyirmidə biri qədər az vəsaitlə yerinə yetirə bilər. Analitiklər həmçinin qeyd edir ki, mövcud açıq modellər daha çox söz istifadə edə və daha tez-tez yenidən cəhd edə bilər, ona görə sərhəd modelə qarşı real qənaət beş və ya altı dəfəyə yaxındır.

Xərc və nəzarət

Analitiklər keçən həftə "Open-Weight Models Will Run 90% of Enterprise Agentic Workflow Steps" adlı sənəddə yazırlar ki, tipik əməliyyat iş axınları təsnifat, alət çağırışı, ötürmə, yoxlama və məlumatların uzlaşdırılması kimi yüzlərlə rutin icra daxil edir. Onlar deyir ki, açıq çəkili modellər sərhəd məntiqi tələb edən hər bir addım üçün bu rutin addımların yüzlərini idarə edə bilər. Eyni balda ən ucuz qapalı modelə qarşı açıq model dörddə bir qədər xərc tələb edir, hər addımda sərhəd model işlədilənə qarşı isə iyirmidə bir qədər xərc tələb edir.

Petty və Paquet arqument edir ki, xərc əsas səbəbdən daha çox bonusdur. SaaS şirkətində alıcının ödədiyi məbləğin böyük hissəsi illərin iş axını tarixçəsidir və hər rutin addımın sərhəd API-yə göndərilməsi onun bir hissəsini alıcının perimetri xaricinə çıxarır. Onlar deyir ki, açıq çəkili modellər nəzarəti qoruyur.

Qəbul və rollar

Analitiklər strateji planlaşdırma fərziyyəsi irəli sürürlər ki, 2030-cu ilə qədər müəssisə əməliyyat agent iş axını addımlarının 90 faizi açıq çəkili modellərdə icra olunacaq. Onlar gözləyir ki, müəssisələr əsasən domenə xas açıq çəkili modelləri qəbul edəcək və bu modellər ayda milyonlarla dəfə işləyən az sayda çox sabit addımların olduğu ssenarilərdə yaxşı nəticə verir.

Modellərin çoxu artıq əmtəəyə çevrilib, dəyər mənbəyi isə agentləri işlədən və idarə edən alətlər olan harness-lərdir. Harness işi ən uyğun modelə yönləndirir və istifadəçilər bunu hiss etmir; yaxşı harness pul qənaət edir, güclü qoruyucu məhdudiyyətlər qoyur və agent donanmalarını idarə edir. Zəif harness-lər istifadəçilərə daha çox iş saxlayır.

Sərhəd və açıq çəkili rollar

Sənəd təklif edir ki, sərhəd modellər tədqiqat və inkişafın mühərriki kimi rola malik olmağa davam edəcək və əslində kapital xərcidir. Açıq çəkili modellər sərhəd modellər ağır işi gördükdən sonra əməliyyat xərcinə çevrilir.

Mənbələr: The Register