Jev-ը 25 տող Python-ով՝ պարոդիա, որը կասկածի տակ է դնում TypeSafe-ի պնդումները

Սեպտեմբերի 22-ին բաց կոդով NobodyWho նախագծի հեղինակ Duarte O.Carmo-ն հրապարակեց «Jev-ը 25 տող Python-ով» գրառումը։ Այն վերարտադրում է Jev-ի՝ TypeSafe AI-ի սեպտեմբերի 14-ին ներկայացրած որոշումների մոդելի հիմնական վարքը փոքր տեղական մոդելով և մոտ քսանհինգ տող կոդով։ Գրառումը բացահայտ նշված է որպես պարոդիա և դարձել է առցանց վեճի հղման կետերից մեկը՝ թե Jev-ի առավելության որ մասն է բաժին ընկնում ճարտարապետությանը, որ մասը՝ ուսուցմանը։

Ինչ ներկայացրեց TypeSafe-ը

TypeSafe AI-ն, որը հիմնադրել է OpenAI-ի նախկին հետազոտող Diogo Almeida-ն, սեպտեմբերի 14-ին երկու տարվա լռությունից հետո ներկայացրեց Jev-ը՝ իր System One մոդելներից առաջինը։ Jev-ը տեքստ չի գեներացնում նշան առ նշան. այն ընդունում է չկառուցվածքավորված տվյալներ և տիպավորված հարցեր, իսկ փոխարենը՝ կառուցվածքավորված պատասխաններ տրամաչափված հավանականություններով ու վստահության գնահատականներով։ Ընկերությունն այն մարզում է RLCD (Reinforcement Learning for Calibrated Decisions) մեթոդով և պնդում, որ այն մոտ երկու կարգով ավելի արագ ու էժան է համադրելի LLM-ներից. 70–500 միլիվայրկյան պատասխանի համար՝ առաջատար մոդելների 3–329 վայրկյանի դիմաց, 0,042 դոլար միլիոն մուտքային նշանի համար, իսկ ելքը՝ անվճար։ Քանի որ հնարավոր պատասխանները նախապես սահմանված են, TypeSafe-ի պնդմամբ, Jev-ը չի կարող տիպային սխալ թույլ տալ կամ հալյուցինացնել։ System One անվանումը գալիս է Դանիել Կանեմանի «արագ մտածողությունից», իսկ մոդելն անվանվել է տնտեսագետ Ուիլյամ Սթենլի Ջևոնսի պատվին։

Ինչ կարելի է անել 25 տողով

NobodyWho-ի գրառումը Qwen3-0.6B-ն՝ 0,6 միլիարդ պարամետրով բաց մոդելը, բեռնում է llama-cpp-python-ի միջոցով, տալիս է նրան աշխատավարձի բաժնից եկած կասկածելի նամակ և երեք պատասխան, կարդում է «A», «B» և «C» նշանների լոգիտները և դրանք log-softmax-ով վերածում հավանականությունների. Legitimate 3,1%, Spam 8,4%, Phishing 88,5%։ Ոչ API-ի կանչ, ոչ reinforcement learning, ոչ սինթետիկ տվյալներ, և տվյալները չեն լքում համակարգիչը։ Հեղինակը նշում է, որ սա պարոդիա է, և ուղղորդում է բաց վերաիրականացումներին՝ OpenJev, openjev-sglang և DiffusionGemma-ի վրա հիմնված OpenJev տարբերակը։

Ինչու է դա կարևոր

Գրառումը Hacker News-ում անցել է 450 միավորը. ոչ թե որովհետև հերքում է Jev-ը, այլ որովհետև առանձնացնում է ինֆերենսի հնարը՝ տեքստ նմուշառելու փոխարեն մի քանի պիտակ-նշանների հավանականությունների ընթերցումը։ Arcturus Labs-ը սեպտեմբերի 16-ին նման դիտարկում հրապարակեց. նուրբ կարգավորված LLM-ը, որի լոգ-հավանականությունները ուղղակիորեն կարդացվում են պիտակների նշանների վրա, վերարտադրում է Jev-ի վարքի զգալի մասը, ինչը վերլուծությունը վերագրում է ծրագրավորող Harsha Gundala-ին։ Այդուհանդերձ, ավելի բարդ հարցերը բաց են մնում։ Jev-ը մեկ զուգահեռ անցման ընթացքում պատասխանում է շատ հարցերի, մինչդեռ 25 տողանոց տարբերակը՝ միայն մեկին, իսկ տրամաչափման պնդումները հիմնված են RLCD-ի վրա, որը վերլուծությունը նշում է որպես TypeSafe-ի դեռ չբացատրած բաղադրիչ։ Իրական աշխարհի խնդիրներում ճշգրտությունը դեռ ապացուցված չէ։