Генеральний директор IBM: моделі з відкритими вагами дають 90 % ефективності за 10 % вартості токенів

Моделі з відкритими вагами скорочують розрив у продуктивності

Під час звіту за третій квартал генеральний директор IBM Арвінд Крішна сказав, що у 2024 році закриті фронтирні моделі явно переважали: на широких бенчмарках вони набирали близько 70 балів, тоді як моделі з відкритими вагами набирали 20-30. Наприкінці 2025 року розрив звузився приблизно до 70 проти 50. Крішна додав, що токен моделей з відкритими вагами тепер коштує від 10 до 25 відсотків ціни токена фронтирних моделей, а ефективність сягає близько 90 відсотків від них.

Він припустив, що більшість підприємств оберуть дешевший варіант, адже такі завдання, як підсумовування листів, перевірка контрактів, обробка дзвінків клієнтів і складання повідомлень, дешевші моделі виконують не гірше.

Попит на локальну AI-інфраструктуру зростає

Крішна повідомив про жвавий інтерес до локальної AI-інфраструктури. Він зазначив, що корисний AI-кластер можна зібрати у двох-трьох стійках, але багатьом організаціям бракує інженерів ядра та мережевої експертизи, щоб розмістити GPU близько один до одного, керувати кешуванням і домагатися швидкої відповіді. IBM планує випустити програмне забезпечення, яке спростить такі розгортання, і очікує, що ця тенденція підвищить продажі карток-прискорювачів Spyre для мейнфреймів.

Мейнфрейми та хмара

Поточне покоління мейнфреймів z17 принесло на один мільярд доларів більше виручки, ніж будь-яка попередня модель, а нові стійкові моделі дали найсильніший запуск у середньому сегменті за майже двадцять років. Виручка від мейнфреймів усе одно впала на 20 відсотків, як і очікувала IBM, адже від запуску z17 минуло 18 місяців. Виручка від інфраструктури зросла на 5 відсотків у річному вимірі, до 3,7 млрд доларів, що повільніше за Dell, HPE і Lenovo. Виручка від програмного забезпечення зросла на 9 відсотків до 7,8 млрд доларів, Red Hat зросла на 11 відсотків і збільшила річний повторюваний дохід на 30 відсотків. Продукти віртуалізації Red Hat отримали угод на 800 млн доларів і мають портфель ще на 750 млн. Загальна квартальна виручка сягнула 17,1 млрд доларів, плюс 5 відсотків, а акції після закриття торгів втратили пункт або два.

Окремо IBM Cloud пережила інцидент першого рівня критичності через аварійне обслуговування: протягом 90 хвилин користувачі не могли створювати нові ресурси та віртуальні приватні хмари. Клієнтам Classic Cloud повідомили, що створення ресурсів відновлять до 08:00 UTC у четвер, тобто інцидент триватиме щонайменше 16 годин. Роботи почалися за кілька годин після повідомлення про критичні помилки в PHP, і IBM запитали, чи пов'язане це з виправленням.

Джерела: The Register