Google Frozen v2 — архітектура Gemini безпосередньо в кремнії
Google створила новий чип, який вбудовує архітектуру моделі Gemini безпосередньо в кремній. Frozen v2 може бути в 6-10 разів ефективнішим за поточні TPU.
Вступ: нова ера AI-інференції
Google представила революційний підхід до апаратного забезпечення AI — новий серверний чип під кодовою назвою Frozen v2, який вбудовує архітектуру моделі Gemini безпосередньо в кремній. За даними The Information, чип може бути в 6-10 разів ефективнішим за поточні TPU-чипи Google.
Назва Frozen v2 пов'язана з концепцією "заморожування" параметрів у машинному навчанні. Оригінальна ідея належить головному науковцю Google DeepMind Джеффу Діну. На відміну від Frozen v1, який вбудовував ваги моделі, Frozen v2 вбудовує архітектуру, що робить чип набагато гнучкішим.
Чим відрізняється від TPU
TPU-чипи Google працюють з різними моделями, але Frozen v2 створений спеціально для Gemini і не буде комерційним продуктом. Він призначений для внутрішніх потреб Google. Розгортання заплановано на 2028 рік.