Google-მა შექმნა ახალი AI ჩიპი, რომელიც Gemini-ს მოდელის არქიტექტურას პირდაპირ სილიკონში აშენებს. Frozen v2-ს შეუძლია 6-10-ჯერ უფრო ეფექტიანი გახადოს AI ინფერენცია.

შესავალი: AI-ის ინფერენციის ახალი ერა

Google-მა წარმოადგინა რევოლუციური მიდგომა AI აპარატურული უზრუნველყოფის მიმართულებით — ახალი სერვერული ჩიპი, კოდური სახელწოდებით "Frozen v2", რომელიც Gemini-ს მოდელის არქიტექტურას პირდაპირ სილიკონში აშენებს. The Information-ის ცნობით, ჩიპს შეუძლია 6-დან 10-ჯერ უფრო ეფექტიანად მოემსახუროს AI პასუხებს, ვიდრე Google-ის მიმდინარე TPU ჩიპები.

რა არის Frozen v2?

სახელწოდება "Frozen v2" პირდაპირ კავშირშია მანქანური სწავლების ერთ-ერთ ფუნდამენტურ კონცეფციასთან — პარამეტრების "გაყინვასთან" (freezing). Frozen v2-ის შემთხვევაში, Google ამ იდეას ლოგიკურ დასასრულამდე მიჰყავს — მოდელის ნაწილი ფიზიკურად "იყინება" თავად ჩიპში, რაც მკვეთრად ამცირებს გამოთვლითი ოპერაციების რაოდენობას.

ორიგინალური იდეა ეკუთვნის Google DeepMind-ის მთავარ მეცნიერს, ჯეფ დინს. მისი პირველი Frozen დიზაინი ითვალისწინებდა მოდელის წონების (weights) ჩიპში ჩამონტაჟებას, მაგრამ Google-მა ეს მიდგომა უარყო, რადგან ასეთი ჩიპი მხოლოდ Gemini-ს ერთი ვერსიისთვის იმუშავებდა.

არქიტექტურა წონების წინააღმდეგ

Frozen v2-ის მთავარი განსხვავება ის არის, რომ იგი არქიტექტურას აშენებს სილიკონში და არა წონებს. ჩიპში ჩაშენებულია მოდელის საფუძვლური გეგმა — ფენების სტრუქტურა, ყურადღების მექანიზმების კონფიგურაცია, აქტივაციის ფუნქციები — მაგრამ თავად წონების ჩატვირთვა მოგვიანებით შეიძლება. ეს ჩიპს ბევრად უფრო მოქნილს ხდის.

TPU-ებისგან განსხვავება

Google-ის TPU ჩიპები მუშაობს მრავალფეროვან მოდელებთან, მაგრამ Frozen v2 რადიკალურად განსხვავებულ მიდგომას იყენებს. ის მხოლოდ Gemini-ს მოდელებისთვისაა განკუთვნილი, რის გამოც ის სავარაუდოდ არ გახდება კომერციული პროდუქტი გარე კლიენტებისთვის. Frozen v2 განკუთვნილია Google-ის შიდა AI გამოთვლითი სიმძლავრის კრიზისის შესამსუბუქებლად.

2028 წელი — განლაგების ვადები

Google გეგმავს Frozen v2-ის განლაგებას 2028 წლიდან შეზღუდული რაოდენობით. ეს მიუთითებს, რომ Google მას განიხილავს, როგორც საცდელ პროექტს სპეციალიზებული ჩიპებისთვის.

კონკურენტული უპირატესობა

Frozen v2-ის 6-10-ჯერ უფრო მაღალი ეფექტიანობა Google-ს საშუალებას მისცემს, ძლიერი AI მოდელები გაუშვას მნიშვნელოვნად დაბალ ფასად. ეს შეიძლება გადამწყვეტი ფაქტორი აღმოჩნდეს OpenAI-სთან და Anthropic-თან კონკურენციაში.

📖 წყარო