ChatGPT-ի macOS հավելվածի սխալը, որը հնարավորություն էր տալիս հակերներին մուտք գործել գաղտնի տվյալներ, ուղղվել է

OpenAI-ն ուղղել է անվտանգության սխալը, որը հայտնաբերվել է ChatGPT-ի macOS հավելվածում: Սխալի օգտագործմամբ հակերը կարող էր ChatGPT-ը նետել զոհի համակարգչի վրա և մուտք գործել հավելվածի զրույցներ, պահված տվյալներ և զննիչի սեսիաներ: Սխալը հայտնաբերել են Objective-See Foundation-ի հետազոտողները:

Ինչ են հայտնաբերել

ChatGPT-ի macOS հավելվածի բաղադրիչները միմյանց կապվում են թվային ստորագրության ստուգմամբ՝ որոշելու, որ հարցումը գալիս է OpenAI-ի բաղադրիչից, այլ ոչ թե արտաքին վտանգավոր ծրագրից: Ստուգումը տարածվում է հարցումից երեք մակարդակից վերև՝ վտանգավոր կոդը չկարողանա օգտագործել վստահելի բաղադրիչը մինուկի պես:

Հետազոտողները հայտնաբերել են, որ հավելվածում կար վստահելի բաղադրիչ՝ սկրիպտի ինտերպրետատոր, որը ստանում էր անվստահելի սկրիպտ: Նրա մանիպուլյացիայով վտանգավոր սկրիպտը ընկնում էր ChatGPT-ի հիմնական գործընթացի մեջ: «Այս գործընթացի ծնողին և պապին էլ ստուգում են, բայց վտանգավոր սկրիպտը պարզապես երեք անգամ բացում է սկրիպտի ինտերպրետատորը և հետո ուղարկում հարցումներ՝ դրանք բավարարելով», ասում է Patrick Wardle-ը:

Ինչ կարող էր անել հակերը

Wardle-ի գնահատակամով, սխալի օգտագործումը բացասապես պարզ էր: Հաստատելու համար պահանջվում էր միայն տասնմեկ տող կոդ: Զրույցներին մուտք գործելուց բացի, հակերը կարող էր կատարել այլ հրամաններ ChatGPT-ի միջոցով, օրինակ՝ մուտք գործել զննիչ կամ այլ գաղտնի հավելված: Այս հարցումները OpenAI-ի կողմից դիտվում էին որպես ծրագրի լեգիտիմ հրահանգներ:

OpenAI-ի պատասխանը

OpenAI-ն հաստատել է սխալը և դրա ուղղումը սեպտեմբերի 25-ին՝ փոփոխությունների մատյանում, հրապարակային: «Շարունակում ենք զարգացնել անվտանգության գործելակերպը, բայց գիտակցում ենք, որ ավելի արագ պետք է աշխատենք», ընկերության ներկայացուցիչը Shane Bauer-ը հայտնել է Wired-ին:

Ինչու է կարևոր

Դեպքը ցույց է տալիս, որ AI հավելվածները ինքներն էն գրավիչ թիրախ են հակերների համար՝ աշխատանքի համար նրանք պահանջում են խոր համակարգային մուտք և վստահություն: «Ագենտներին աշխատանքի համաշերտ մուտք է պահանջվում: Նրանք նման են շենքի մենեջերին, ով ունի բոլոր սենյակների բանալիները: Ուստի, եթե նրանց կոտրեն կամ փոխեն, դա շատ վտանգավոր է և կարող է անվստահելի կոդը մուտք գործել ամեն ինչի մեջ», ասում է Wardle-ը:

Wardle-ը նոյեմբերում Apple-ին ուղղված Objective by the Sea անվտանգության կոնֆերանսում կներկայացնի մի քանի սխալի վերլուծություն AI-ի macOS հավելվածներում: Մի քիչ առաջ նա արդեն գտել էր ուղղված սխալ Meta-ի նոր AI օգնիչ Muse-ի դիտակի ֆունկցիայում, որի միջոցով լոկալ հակերը կարող էր մուտք գործել սխալ մշակված լիազորման թոքենի մեջ: Wardle-ը արդեն տեղեկացրել է ընկերությանը սխալի մասին ChatGPT-ի և OpenAI-ի նոր, միշտ միացված AI օգնիչ Dots-ի ինտեգրման մասին, OpenAI-ն էլ քննում է հաղորդությունը:

«AI ընկերություններն այժմ ուղղված են նոր ֆունկցիաների ավելացման վրա, սակայն ինչքան շատ ֆունկցիա կա, այնքան լայն է հակերի համար հասանելի տարածքը: Ուստի բոլորը պետք է հոգ տանեն անվտանգության մասին և, ինչպես թվում է, դա հաճախ երկրորդական է մնում», ասում է Wardle-ը: