Չինական բաց կշռով AI մոդելները հաքերության մեջ դառնում են ահավոր հզոր

Բաց կշռով AI մոդելները ներկայումս գրեթե նույնքան ընդունակ են համակարգչային ցանցեր ներթափանցելու, որքան լավագույն փակ մոդելները, ըստ Vals-ի նոր հետազոտության։ Ընկերությունը մոդելները փորձարկել է կեղծ կորպորատիվ ցանցերում և պարզել, որ DeepSeek-ը մոտ է OpenAI-ի Daybreak-ին, ինչը ենթադրում է, որ մուտքը սահմանափակելու ջանքերը կարող են չդանդաղեցնել նման կարողությունների տարածումը։

Սիմուլյացված ցանցերը ցույց են տալիս փոքր տարբերություն

Vals-ը, որը չափում է AI կարողությունները, մոդելները փորձարկել է կորպորատիվ ցանցի երկու կեղծ սցենարում։ Առաջինը ներառում էր ցանց, որը հասանելի էր հանրային կայքի միջոցով։ Երկրորդը ներառում էր երկու ընկերությունների ցանցեր, որտեղ մոդելը պետք է խախտեր առաջինը՝ երկրորդին հասնելու համար։ OpenAI-ի Daybreak-ը, որը հասանելի է միայն վստահելի գործընկերներին, միջինը երկու փորձարկման ընթացքում ավարտել է առաջադրանքների 81 տոկոսը։ Չինական բաց կշռով DeepSeek մոդելը միջինում ավարտել է 73 տոկոսը, և երկու մոդելները որոշ առաջադրանքներում հավասար միավորներ են ստացել։ «Լաբորատորիաներում փակված և միայն վստահելի մուտքի ծրագրերով հասանելի լավագույն առաջատար մոդելները այժմ սկսում են համընկնել բաց մոդելների հետ, որոնք յուրաքանչյուրը կարող է ներբեռնել», ասում է Vals-ի հետազոտող Nikil Ravi-ն։ Vals-ը ասում է, որ փակ մոդելները այլևս չունեն որոշիչ առավելություն կիբերհմտություններում, ուստի առաջատար լաբորատորիաների վերջին ջանքերը՝ մուտքը սահմանափակելու, կարող են անիմաստ լինել։

Արժեքը և պաշտպանների խթանները

Հետազոտությունը նաև ցույց տվեց, թե որքան ավելի էժան կարող են լինել բաց կշռով մոդելները այս տիպի առաջադրանքի համար։ Vals-ը ասում է, որ GPT-6-Sol-ով հարձակում իրականացնելը արժե 17-ից 46 դոլար թոքեններով, իսկ DeepSeek-ով՝ 2-ից 3 դոլար։ Բաց մոդելները ընդհանուր առմամբ ավելի էժան են, քանի որ դրանք կարելի է գործարկել սեփական սարքավորման վրա։ Vals-ի գործադիր տնօրեն Rayan Krishnan-ը ասում է, որ սա ուժեղ խթան է պաշտպանների համար՝ օգտագործելու բաց մոդելներ, այլ ոչ թե սեփական մոդելներ։ OpenAI-ը անմիջապես չպատասխանեց մեկնաբանության խնդրանքին։

Սահմանափակ մուտքից դեպի ավելի լայն սպառնալիք

Արդյունքները նշանակալի են, քանի որ ԱՄՆ-ի առաջատար լաբորատորիաները, մասնավորապես Anthropic-ը, սահմանափակ թողարկումները, սկսած Claude Mythos Preview-ից ապրիլին, հիմնել էին վերահսկվող մուտքի վրա՝ ժամանակ շահելու մինչև առաջադեմ հաքերային կարողությունները լայնորեն հասանելի կդառնային։ Anthropic-ի առաջատար կարմիր թիմի ղեկավար Logan Graham-ը WIRED-ին ապրիլին ասել է, որ Project Glasswing-ը վստահելի մուտք է տալիս մոդելի ամբողջ կարողություններին և կենտրոնացած էր գործիքները «պաշտպանների ձեռքում տալու՝ առաջատար մեկնարկ ապահովելու համար»։ Նա ասել է, որ կարողությունները լայնորեն հասանելի կլինեն 6, 12, 24 ամսից։ յոթ ամիս անց այդ անցումը, կարծես, ժամանակին է տեղի ունեցել։ Տարվա մեծ մասը ընթացել է կանխատեսված կերպով՝ AI-ն ավտոմատացնելով հաքերության հիմնական առաջադրանքները հարձակվողների և պաշտպանների համար, գտնելով բազմաթիվ նոր խոցելիություններ և զննելով ցանցերը։ Բացահայտումների արագությունն ու մասշտաբը, ինչպես նաև բացահայտված թերությունների վերացման ինտենսիվությունը աճել են։ Փորձագետները դեռ վիճում են, թե արդյոք AI-ն հիմնարար կերպով փոխել է կիբերանվտանգությունը, թե ուժեղացնում է երկարատև մարտահրավերները։ Բաց կշռով մոդելների՝ փակ մոդելներին համապատասխանելը կարևոր է հասկանալու համար, թե ինչպես կարող են հանցավոր հաքերները օգտագործել AI-ն և ինչպես պետք է արձագանքեն ընկերությունները։ Գործնականում հարձակվողները հաճախ խնայում են ռեսուրսները և օգտագործում ավելի հին, պակաս ընդունակ մոդելներ։ Պաշտպանները պետք է ենթադրեն, որ լավ ֆինանսավորված, բարձր մոտիվացված հարձակվողները կարող են արդեն որոշակի մուտք ունենալ փակ մոդելներ։ Edera-ի համահիմնադիր և տեխնիկական տնօրեն Alex Zenla-ն ասել է, որ բաց կշռով մոդելները այսօր կարող են առաջադեմ հարձակումներ առաջացնել, հատկապես abliterated մոդելները, որոնք անջատում են անվտանգության ուսուցումը՝ փոփոխելով կշիռները, սակայն փակ լաբորատորիաները կարող են ունենալ չթողարկված մոդելներ՝ ավելի մեծ կարողություններով, ինչը դարձնում է այն կատու-մուկ խաղ։

Աղբյուրներ: Wired