Վերադառնալ

Thinking Machines թողարկել է բաց Inkling 2 Mini ցիկլային տրանսֆորմեր մոդելը
SiTech AI Team2 րոպե ընթերցում

Thinking Machines թողարկել է բաց Inkling 2 Mini ցիկլային տրանսֆորմեր մոդելը

Thinking Machines-ը թողարկել է Inkling 2 Mini բաց ցիկլային տրանսֆորմերը՝ 26.4 միլիարդ պարամետրով և 5.4 միլիարդ ակտիվ պարամետրով յուրաքանչյուր թոքենի համար: Այն DeepSWE v1.1-ում ստանում է 48.2 տոկոս և տեղային աշխատում է առնվազն 32 GB հիշողություն ունեցող Mac-երի վրա:

Thinking Machines-ը թողարկել է Inkling 2 Mini-ն՝ բաց mixture-of-experts (MoE) մոդել, որը կառուցված է որպես ցիկլային տրանսֆորմեր: Մոդելը իր 24 շերտերից 12-ը անընդմեջ երեք անգամ է գործարկում, ինչը թույլ է տալիս ներքին դատողություն անել՝ առանց լրացուցիչ տեքստ առաջացնելու: Այն լիցենզավորված է Apache 2.0 պայմաններով և աջակցում է տեքստին ու պատկերներին՝ 1 միլիոն թոքենի համատեքստային պատուհանով:

Ցիկլային տրանսֆորմերի նախագծում

Ցիկլային տրանսֆորմերը յուրաքանչյուր թոքենի համար որոշակի շերտեր մի քանի անգամ է գործարկում: Inkling 2 Mini-ն ունի 26.4 միլիարդ պարամետր, որից 5.4 միլիարդը ակտիվ է յուրաքանչյուր թոքենի համար՝ ցիկլերի պատճառով, ըստ Thinking Machines-ի: Ընկերությունը նշում է, որ սա թույլ է տալիս մոդելին ավելի երկար ներքին դատողություն անել՝ առանց ավելի շատ տեքստ առաջացնելու, և ավելի քիչ թոքեններով գտնել ճիշտ պատասխանը:

Չափանիշներ և արդյունավետություն

Inkling 2 Mini-ն առաջատար է բոլոր բաց մոդելների շարքում՝ 100 միլիարդից պակաս պարամետր ունեցողների շրջանում, գործակալային կոդավորման թեստերում՝ ստանալով 48.2 տոկոս DeepSWE v1.1-ում և 46.5 տոկոս Vals Index v2.2-ում: Artificial Analysis-ը նրան 20 միավոր է տալիս իր Intelligence Index-ում՝ հավասարվելով Qwen3.8 27B-ի հետ՝ մոտավորապես վեց անգամ ավելի ցածր արժեքով և չորս անգամ բարձր արագությամբ: Այն նաև հավասարվում է Qwen3.8 27B (xhigh)-ի և Nanbeige4.3-33B-ի հետ նույն ինդեքսում, իսկ շատ ավելի քիչ ակտիվ պարամետրերով անմիջապես գտնվում է Pareto սահմանի վրա:

Հասանելիություն

Inkling 2 Mini-ն տեղային աշխատում է առնվազն 32 GB հիշողություն ունեցող Mac-երի և Nvidia-ի DGX Spark-ի վրա: Կշիռները և փոփոխական ցիկլերով հետազոտական տարբերակը հասանելի են Hugging Face-ից, իսկ մոդելը կարելի է փորձարկել Tinker Playground-ում: Ավելի վաղ լուսաբանումը նշում էր Inkling 2 Small-ը՝ 2026 թվականի նոյեմբերի 6-ին, և Inkling Small-ը՝ 2026 թվականի հուլիսի 31-ին:

Աղբյուրներ: The Decoder

SiTech

SiTech — AI-ով հզորացված վեբ մշակում

Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։