NVIDIA відкрила архітектуру Vera Rubin та стандарти AI-заводів на саміті OCP

У Сан-Хосе на глобальному саміті Open Compute Project NVIDIA оголосила про партнерства та відкритий внесок у створення спільної основи для інфраструктури ШІ наступного покоління. Заяви стосуються ШІ-заводів, електромереж та архітектури рівня стійок.

Дизайни Vera Rubin у відкритій архітектурі MGX

NVIDIA передала в відкриту MGX для OCP дизайни стійок та compute tray Vera Rubin, що дає виробникам спільну основу для ШІ-заводів. Вона також разом із лідерами долучилася до довідкового дизайну центру обробки даних ШІ MGX третього покоління через OCP Open DC Initiative, з відкритими рідинними охолоджувачами MQD та MQDB.

Оновлена MGX 1.2 додає рідинне охолодження стійок на сліпих з'єднаннях, сумісні інтерконекти та рідинноохолоджену шинопровідну систему на 5 000А для потужних систем ШІ. Додається підтримка 19-дюймового обладнання, щільних стоєк, конфігурованих I/O-полиць та compute tray без вентиляторів. Архітектура підтримує стійки потужністю до 250кВт та спрощує обслуговування, розгортання та повторне використання.

NVIDIA опублікувала специфікацію стійки Vera CPU, розширивши MGX від прискорених обчислень до платформи агентного ШІ. Vera Rubin NVL72 є основою для великомасштабного тренування та інференсу, а стійка Vera CPU підтримує виклик інструментів, оркестрацію та виконання в пісочниці для ШІ-агентів.

Відкриті стандарти та програмні компоненти DSX

NVIDIA приєдналася до AMD, Google та Meta для публікації Open Data Center Specification v0.7, яка є уніфікованим планом проєктування ШІ-заводів наступного покоління щодо живлення, охолодження та фізичного розміщення. Google, Meta, Microsoft та NVIDIA окремо опублікували OCP Grid Resilience Specification, яка визначає, як поводитися великомасштабній інфраструктурі ШІ під час відмов електромереж, зокрема відновлення менш ніж за дві секунди навіть при майже повному навантаженні.

NVIDIA розширила DSX OS — операційний шар своєї платформи DSX AI-заводів — компонентами відкритого коду. Нові інструменти: NVIDIA Config Manager для автоматизації конфігурації комутаторів, NVIDIA Cluster Readiness Engine для стрестестування GPU-кластерів перед тренуванням, NVIDIA Rack Management Service для керування прошивкою стійок та Cluster API Provider для прискорення розгортань на bare-metal. Компоненти створено на основі досвіду NVIDIA DGX Cloud.

Досягнення партнерів у живленні, мережах та оптиці

Meta оголосила про розгортання комутаторів NVIDIA Spectrum-6 зі швидкістю 102,4Тб/с Ethernet, зокрема власного N-IceCube, який поміщається в рідинноохолоджену стійку IcePack та працює з відкритим кодом FBOSS. Технологія Spectrum-X Multiplane з комутаторами Spectrum-6 та ConnectX-9 SuperNIC розподіляє GPU-трафік на вісім незалежних мережевих площин і підтримує ШІ-заводи з понад 100 000 GPU.

Visionbay представила K-1, платформу ШІ-заводу 800 VDC, побудовану на довідковій архітектурі NVIDIA 800 VDC та технологіях живлення й тепловідведення Vertiv, для майбутніх розгортань Vera Rubin. NVIDIA та Cisco анонсували стандарт Ultra-Dense Small Form Factor Pluggable — перший в галузі модуль для 400Gb/s мережевих з'єднань; його розробку планується спільно з TE Connectivity та Amphenol під керівництвом громади. NVIDIA та Google також анонсували підтримку Falcon Transport для майбутніх ConnectX-10 SuperNIC та BlueField DUP задля ефективності Ethernet у великомасштабній інфраструктурі ШІ.

Джерела: Nvidia