doubleAI, işləyən kodu optimizasiya edən kod icra modeli Maxwell-i təqdim edir

Maxwell kodu işləyərkən optimizasiya edir

2023-cü ildə qurulmuş, İsrailin Tel Aviv şəhərində yerləşən startap doubleAI, Maxwell-i bazar ertəsi günü təqdim edib. Kod icra modeli icra zamanı ikili kodu qiymətləndirir, optimizasiya edir və yenidən yazır. O, 1867-ci ildə Ceyms Klark Maksvell tərəfindən təsəvvür edilən entropiya üzərindəki fikir təcrübəsi olan Maxwell'in demonu adını daşıyır və mövcud avadanlıqda performansı maksimuma çatdırmaq üçün alqoritmləri və maşın təlimatlarını əvvəlcədən emal edir.

Maxwell konsept baxımından JIT kompilyatoruna bənzər, lakin daha çevikdir və əvəzlənmiş kodun ekvivalentliyini formal olaraq təsdiqləyir. Mənbə kodu dəyişdirilmir. Teoretik informatika üzrə PhD dərəcəsi olan həmtəsisçi Qal Beniamini, kompilyatorun alqoritmi dəyişdirmək kimi yüksək səviyyəli mühakimə yürüdə bilməyəcəyini söylədi. Maxwell dəqiq avadanlığı, proqramdan keçən məlumatların formalarını və növlərini, mühit vəziyyətini, başqa nələrin işlədiyini və hansı şərtlərdə hansı darboğazların yaranacağını görə bilər.

Bildirilən sürətlənmələr və təhlükəsizlik yoxlamaları

doubleAI, Maxwell-in məlumat kanallarını 38 dəfədən çox, AI inferens nüvələrini isə 4,5 dəfədən çox sürətləndirdiyini bildirib. 4K video yaradan açıq dünya modeli LTX-2.5, Maxwell ilə bunu demək olar ki, iki dəfə daha sürətli bacardı. Optimizasiyalar GPU-lar arasında dəyişdirilən məlumatları azaltdı və lazımsız token doldurmağı aradan qaldırmaq üçün nüvə seçimini yaxşılaşdırdı.

Beniamini, Maxwell-in qeyri-adi şəkildə avadanlığa uyğunlaşdırıla bilən alqoritmik kodu ən yaxşı etdiyini söylədi. O, Python kodu və PyTorch qrafikləri çox vaxt optimal olmadığı üçün hələ də geniş çaplı optimizasiyalar ala biləcəyini əlavə etdi. Maxwell həm də yaddaş xətalarının mövcud olmadığını sübut edərək təhlükəsizlik məsələsini həll edə bilər. O, şirkətin Python-un özündə Python-un yaddaş baxımından təhlükəsiz olmadığı hallar tapdığını və Maxwell-in bunu sübut etdiyini söylədi.

Quraşdırma və etibar

Maxwell-in izləmə və profilləşdirmə üzrə əlavə yükü maksimum 2 faizdir, izləmədikdə isə sıfırdır. Beniamini, optimizasiyaların bu xərci üstün olduğunu və doubleAI-nin də 2 faizdən çox ümumi sürətlənmə əldə etmək üçün Maxwell-i icra mühitinin özünə tətbiq etdiyini söylədi. Proqramçılar icra mühitini quraşdırır və kodlarını işə salır, Maxwell modeli doubleAI tərəfindən host olunur, bu yanaşma bir qədər etibar tələb edir.

doubleAI-nin həmtəsisçisi və CEO-su Amnon Şaşua, AI-nin proqram təminatının yazılma şəklini dəyişdiyini və indi onun işləmə şəklini də dəyişdiyini söylədi. O, kod icra modellərini insan istifadəçisi adına kod agentləri deyil, avadanlıq adına agentlər kimi təsvir etdi və Maxwell-i proqramçıya deyil, maşına xidmət edən ilk AI adlandırdı.

Mənbələr: The Register · doubleAI