Назад

Anthropic: Claude Mythos скоротив підключення GPU AMD до приблизно трьох днів
SiTech AI Team2 хв читання

Anthropic: Claude Mythos скоротив підключення GPU AMD до приблизно трьох днів

Anthropic повідомила інвесторам перед IPO, що Claude Mythos Preview виконала програмну роботу для запуску ШІ на GPU AMD приблизно за три дні майже без втручання людини, тоді як раніше це тривало від шести до 12 місяців.

Anthropic повідомила інвесторам перед IPO, що модель Claude Mythos Preview виконала програмну роботу, потрібну для запуску її ШІ на GPU AMD, приблизно за три дні майже без втручання людини. Компанія заявила, що раніше це завдання тривало від шести до 12 місяців і вимагало десятків інженерів. Оцінка трьох днів стосується обробки запитів для однієї моделі Anthropic на GPU AMD MI355X на корисному рівні продуктивності.

Робота з ядрами та перевага CUDA від Nvidia

Claude Mythos перенесла або написала майже 100 відсотків ядер, низькорівневого коду, що пов'язує модель ШІ з чипами однієї компанії. Цей код довго був частиною переваги CUDA від Nvidia, і система ШІ, яка може написати його за дні, може означати, що ця перевага слабшає. Tom Brown, співзасновник Anthropic і головний директор з обчислень, навів порівняння часу й зазначив, що початкова робота виконувалася командою з десятків інженерів.

Багаточипова стратегія Anthropic

Anthropic уже запускає свої моделі на GPU від Nvidia і AMD, TPU від Google та AWS Trainium, і керує своїм парком як одним взаємозамінним пулом обчислень. Brown назвав раннє рішення про багато чипів нестандартною ставкою. Компанія заявила, що її попередній досвід запуску нових прискорювачів традиційними інженерними методами передбачав підгонку коду під кожну апаратну платформу, що могло тривати від шести до 12 місяців.

AMD, Nvidia і залишкові обмеження

Anthropic уперше почала працювати з GPU AMD цього року й має чинну угоду на обсяг до 2 гігават. Anush Elangovan з AMD сказав EE Times у квітні, що Claude кращий за HIPify, бо має вбудований вебпошук, а CEO AMD Lisa Su у вересні сказала, що значну частину програмного забезпечення ШІ, написаного для CUDA, тепер можна перекласти на AMD програмно. CEO Nvidia Jensen Huang у квітні сказав, що Nvidia використовує ШІ для власних ядер і що ніхто не знає її архітектуру краще за Nvidia, і він назвав Anthropic унікальним випадком, а не тенденцією. Anthropic не повідомила, наскільки швидко модель працювала на GPU AMD порівняно з Nvidia, і не повідомила, чи був крок відповіді включений разом із обробкою запитів.

Що далі

Перші чипи Anthropic AMD MI450 у стійках Helios очікуються в першій половині 2027 року. IPO відбудеться раніше, після чого компанія звітуватиме як публічна. У проспекті емісії компанія каже, що може підключати нові чипові платформи за частку колишнього часу, хоча не наводить числа.

Джерела: tomshardware.com

Поділитися цифровим досвідом

SiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.