Geri qayıt

IBM rəhbəri: açıq çəkili modellər 90 faiz effektivliyi 10 faiz xərclə verir
SiTech AI Team2 dəq oxu

IBM rəhbəri: açıq çəkili modellər 90 faiz effektivliyi 10 faiz xərclə verir

IBM-in baş icraçı direktoru Arvind Krişna investorlara bildirib ki, açıq çəkili modellər indi qabaqcıl modellərin performansının 90 faizini token xərcinin 10-25 faizi müqabilində verir və bu, yerli AI infrastrukturuna güclü maraq yaradır.

Açıq çəkili modellər performans fərqini bağlayır

IBM-in baş icraçı direktoru Arvind Krişna üçüncü rübün maliyyə nəticələrinə həsr olunmuş konfransda bildirib ki, 2024-cü ildə qapalı qabaqcıl modellər açıq şəkildə öndə idi: geniş benchmarklarda təxminən 70 bal toplayırdılar, açıq çəkili modellər isə 20-30 bal alırdı. 2025-ci ilin sonunda fərq təxminən 70-ə qarşı 50-yə qədər azaldı. Krişna əlavə edib ki, açıq çəkili modellərdə token xərci qabaqcıl modellərin token qiymətinin 10-25 faizini təşkil edir, effektivlik isə onların təxminən 90 faizidir.

Onun fikrincə, müəssisələrin çoxu daha ucuz variantı seçəcək, çünki e-poçtun xülasələnməsi, müqavilənin yoxlanması, müştəri zənglərinə cavab və mesajların yazılması kimi tapşırıqları ucuz modellər də eyni dərəcədə yaxşı yerinə yetirir.

Yerli AI infrastrukturuna tələb artır

Krişna yerli AI infrastrukturuna böyük maraq olduğunu bildirib. O qeyd edib ki, faydalı AI klasteri iki və ya üç rackdə qurmaq olar, lakin bir çox təşkilatda GPU-ları bir-birinə yaxın yerləşdirmək, keşi idarə etmək və sürətli cavab vaxtı almaq üçün lazım olan kernel mühəndisləri və şəbəkə təcrübəsi yoxdur. IBM bu yerləşdirmələri asanlaşdıran proqram təminatı təqdim etməyi planlaşdırır və tendensin Spyre meynfreym sürətləndirici kartlarının satışını artıracağını gözləyir.

Meynfreym və bulud yenilikləri

Cari z17 meynfreym nəsli bütün əvvəlki modellərdən bir milyard dollar çox gəlir gətirib, yeni rackə quraşdırılan modellər isə iyirmi ilə yaxın dövrdə orta seqmentdə ən güclü buraxılış olub. Meynfreym gəliri buna baxmayaraq 20 faiz azalıb; IBM bunu, z17 buraxılışından 18 ay keçdiyi üçün gözləyirdi. İnfrastruktur gəliri illik 5 faiz artaraq 3,7 milyard dollara çatıb ki, bu da Dell, HPE və Lenovodan daha yavaşdır. Proqram təminatı gəliri 9 faiz artaraq 7,8 milyard dollara çatıb, Red Hat 11 faiz böyüyüb və illik təkrarlanan gəlirini 30 faiz artırıb. Red Hat-ın virtuallaşdırma məhsulları 800 milyon dollarlıq müqavilə əldə edib, 750 milyon dollarlıq gözlənilən sifariş portfeli var. Rüblük ümumi gəlir 5 faiz artaraq 17,1 milyard dollara çatıb, səhm qiyməti isə ticarətdən sonra bir-iki bənd ucuzlaşıb.

Ayrıca IBM Cloud təcili texniki xidmət səbəbindən birinci dərəcəli insident yaşayıb və 90 dəqiqə ərzində yeni resursların və virtual özəl buludların ayrılması mümkün olmayıb. Classic Cloud müştərilərinə resurs ayrılmasının cümə axşamı saat 08:00 UTC-də bərpa olunacağı bildirilib ki, bu da fasilənin ən azı 16 saat davam edəcəyi deməkdir. İşlər kritik PHP xətalarının elanından bir neçə saat sonra başlayıb və IBM-dən bunun düzəlişlə əlaqəli olub-olmadığı soruşulub.

Mənbələr: The Register

SiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.