Vx-ն հետերոգեն հիշողությունը և տոպոլոգիան տեսակների համակարգ է մտցնում
Vx-ն համակարգային ծրագրավորման լեզու է հետերոգեն հաշվարկների համար, որը CPU, GPU, NPU և արագացուցիչների հիշողությունը դարձնում է տեսակների ստուգման մաս՝ հաստատուն փոխանցումներով և մեքենայի վրա հիմնված տեղակայմամբ:
Հիշողության տեղակայումը տեսակի մասն է
Vx-ն հետերոգեն հաշվարկները դիտարկում է որպես լեզվի մակարդակի հարց և չի վստահում արագացուցիչում տեղակայումը թափանցիկ runtime-ին: NPU-ի բարձր թունակության հիշողության վրա կախված տենզորը տարբեր տեսակ ունի, քան նույն տենզորը հոստի DRAM-ում, և այս տեղակայումների միջև տեղափոխումը պահանջում է հաստատուն փոխանցում: Apple-ի միասնական հիշողության վրա այս փոխանցումը գրեթե աննշան է կոմպիլյացվում, սակայն կոդում դեռ նշված է, որ տվյալների տեղայնությունը պետք է ստուգվի առանց բինարի պրոֆիլավորման:
Կոմպիլյատորը ստուգում է սարքի ցուցիչների հաստատուն հասանելիությունը հոստից, հոստի արտահայտություններում մուտքագրված կախված NPU արժեքները և այդպիսի տեղակայումները, որոնց աշխատանքային բեռը գերազանցում է նպատակային հիշողության տարածքը: Այլ կանոնները ներառում են ասինխրոն փոխանցման տեսանելիությանը հասած կարդացված բուֆերները, փոխանցումից հետո օգտագործման սխալները, հիշողության տարածքների միջև հայտարարված ճանապարհի առանց փոխանցումը և տարածաշրջաններում դիֆերեցիավորումը առանց սահմանված ադիունգատի: Ասինխրոն փոխանցման տեսանելիության պայմանագրերը մշակում է SMT ստուգիչը:
Մեքենայի ֆայլերը սահմանում են սարքային սահմանափակումները
Արժեքների մոդելի խորը ներդրման փոխարեն Vx-ը կարդում է մեքենայի ֆայլը, որը նկարագրում է կոնկրետ մասի հիշողության իերարխիան և փոխկապակցվածությունը: Կոմպիլյատորը այս տեղեկատվությունն օգտագործում է տեղակայումները թույլատրելու կամ մերժելու համար: Միավորների փոխարկումները օգտագործում են ճշգրիտ ամբողջ թվերը: SI նախածանքները տասնական են, IEC նախածանքները՝ երկուական, ինչը պահպանում է այդպիսի չափերի տարբերությունը, ինչպիսիք են GB-ն և GiB-ն:
Պահեստը ներառում է մեքենայի ֆայլերը H100, H200, B200, A100, MI300X, Apple M4 և մի քանի GPU հանգույցների համար: Ֆայլերը նշում են իրենց աղբյուրները և առանձնացնում թվեր, որոնք անհաստատելի մնաում են:
Պարալել ֆրոնտենդ և բազմաթիվ բեքենդներ
Vx-ի տվյալների վրա հիմնված ֆրոնտենդում յուրաքանչյուր սիմվոլ, նոմինալ տիպ և մոնոմորֆիկ տարբերակ ներկայացված է հարթ 256-բիթային նույնականացուցչով: Նոմինալ տիպերի համակարգը և ռեկուրսիվ տիպերի համար պարտադիր boxing մոդուլները ազատում են միմյանցից, ինչը կոմպիլյացիայի կահանդում հնարավորություն է տալիս աշխատել միջուկներում query-ի շարժիչի և lock-ի մրցակցության առանց: Կոմպիլյացիան անցնում է հարթ զանգվածներով, այլ ոչ թե ցուցիչներով հալածված ծառերով:
Փորձարկման հավաքածուները հաստատում են, որ սերիական և պարալել դասավորությունները բայթ-նույնական MLIR են արտադրում տարբեր հոսքի կոնֆիգուրացիայի ժամանակ, չափորոշիչի մասշտաբով: Այս երաշխիքը տարածվում է ֆրոնտենդի լուծումների վրա; մնացած մշակումը պատկանում է LLVM-ին: Բեքենդները ներառում են x86-64 և arm64 CPU-ներ, NVIDIA GPU-ներ, Apple AMX և ANE, ինչպես նաև տարածված manifest-ով կառավարվող հեռահար տարածաշրջաններ: Արտադրողները կարող են ընդլայնել Vx-ը MLIR pass հավելումներով՝ կոմպիլյատորը ճղմելու փոխարեն:
Ստեղծված է ֆիքսված, արդյունավետության զգային բեռնումների համար
Vx-ը նախատեսված է ծրագրային ապահովման համար, որը պետք է ճիշտ և արագ լինի տարբեր տեսակի սիլիկոնների վրա: Նախագիծը ճանաչում է, որ իր ahead-of-time, տվյալների վրա հիմնված և ստատիկ տարածաշրջանային բաժանված դիզայնը պակաս համապատասխան է այն աշխատանքային հոսքերի համար, որոնք փոխում են ճարտարապետությունը, ստուգում են թենզորների ձևերը և դինամիկ երկարացնում են, երբ այդ որոշումները դեռ փոխվում են: Իր տեղադրման տարբերակները ներառում են macOS-ը Apple Silicon-ի վրա և Linux x86_64-ը, իսկ ուղեցույցները ներառում են լեզուն, տոպոլոգիաները, հիշողության տեղակայումը և մեքենայի ֆայլերը:
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։