Սեսիան, որը չես կարող քեզ հետ տանել. ինչու AI սղագրությունները կապվում են մատակարարին

API, որը տեքստից ավելին է վերադարձնում

Ինֆերենս API-ի սկզբնական խոստումը պարզ էր՝ ուղարկիր մուտքը, ստացիր ելքը, և եթե երկուսն էլ պահեցիր, զրույցը քոնն է։ Այն կարելի էր դիտել, արխիվացնել, վերարտադրել կամ փոխանցել այլ մոդելի։ Դա երբեք ամբողջությամբ ճիշտ չէր՝ prompt քեշերը ապրում են ուրիշի GPU-ներում, տոկենացումը տարբերվում է մոդելների միջև, իսկ սեմփլինգը դիտավորյալ վերարտադրելի չէ, բայց սեսիայի իմաստային գրառումը դեռ կարող էր պատկանել օգտատիրոջը։

«The Session You Cannot Take With You» վերնագրով գրառման մեջ Earendil Engineering-ը պնդում է, որ ինֆերենս API-ները հեռանում են այդ հատկությունից։ Մատակարարները գնալով տեքստը վերադարձնում են իրենց կապված և դիտավորյալ ոչ տեղափոխելի վիճակի հետ խառնված՝ դատողության տոկեններ, որոնք օգտատիրոջը հաշվարկվում են, բայց վերադառնում են գաղտնագրված բլոկներով, վեբ որոնումներ, որտեղ մոդելը տեսնում է նյութեր, որոնք հաճախորդը չի տեսնում, սեղմված կոնտեքստ, որը կարող է բացել միայն սկզբնական մատակարարը, ենթագործակալների հրահանգներ՝ թաքնված գաղտնագրված payload-ներում, և պատասխանի վիճակ, որը կապված է բացառապես մատակարարի սերվերներում պահվող ID-ներին։

Սեսիայի սեփականության գործնական թեստ

Գրառումը տեղափոխելիությունը սահմանում է զուսպ՝ ոչ թե այն, որ մյուս մոդելը պետք է արտադրի նույն հաջորդ տոկենը, այլ այն, որ արտահանված սղագրությունը պետք է պարունակի բավարար հասկանալի տեղեկություն, որպեսզի մեկ այլ մոդել շարունակի աշխատանքը՝ առանց հին մատակարարի ID բացելու, բլոկը գաղտնազերծելու կամ ամփոփումը վերականգնելու։ Այնուհետև հինգ թեստ է ներկայացվում՝ զննում (տեսնո՞ւմ է օգտատերը այն, ինչ տեսել է մոդելը, ինչ արեցին գործիքները և ինչ ասացին գործակալները միմյանց), արտահանում (ինքնաբավ է սեսիան), վերարտադրում (կարո՞ղ է այլ իրականացում վերակառուցել իմաստային առումով համարժեք կոնտեքստ), աուդիտ (կարո՞ղ է մարդը հետագայում բացատրել, թե ինչու համակարգը այդպես վարվեց) և ջնջում (կարո՞ղ է օգտատերը գտնել ու հեռացնել յուրաքանչյուր սերվերային պատճեն, որից կախված է սեսիան)։

Կնքված վիճակ, թաքնված որոնում և անթափանց սեղմում

Earendil-ը պնդում է, որ անվանումները մոլորեցնում են. encrypted_content դաշտը հնչում է որպես գաղտնիության վերահսկում, բայց դա պատիճ է, որը բացում է միայն մատակարարը. հեղինակները դա անվանում են «մատակարարի կողմից կնքված վիճակ», որը տվյալները թաքցնում է ձեզնից, ոչ թե մատակարարից։ Պահման կանխադրվածները նույն ուղղությունն են ցույց տալիս՝ OpenAI-ի Responses API-ն պատասխանները պահում է առնվազն 30 օր։

Յոթ կանոն և նվազագույն ազատություն

Գրառումը եզրափակվում է մատակարարների և գործակալներ կառուցողների համար յոթ սկզբունքով՝ տեղական իրադարձությունների մատյանը կանոնական է, պահումը՝ բացահայտ, ոչ մի անթափանց տարր չպետք է լինի իմաստի միակ կրողը, հոսթինգով աշխատող գործիքները վարում են ամբողջական մատյաններ, ենթագործակալների հաղորդակցությունը աուդիտի ենթակա է, սեղմումը՝ զննելի, իսկ արտեֆակտերը՝ արտահանելի։ Հեղինակները նաև կոչ են անում փոխել վերաբերմունքը դիստիլյացիայի նկատմամբ՝ ներկայացնելով այն որպես հնարավորությունների էժանացման ու տարածման ուղի, այլ ոչ թե տաբու։

Նվազագույնը, ինչ նրանք խնդրում են, փոքր է՝ օգտատերը պետք է կարողանա փակել հաշիվը, պահել սեսիան և փոխանցել այն այլ մոդելի։ Նոր մոդելը կարող է չհամաձայնել, հարցեր տալ կամ ավելի վատ աշխատել, բայց այնտեղ, որտեղ հին մոդելը տեսնում էր պատմությունը, ապացույցները, ծրագրերը և պատվիրակված աշխատանքը, այն չպետք է նայի գաղտնագրված տեքստի։