Մեկ ընկերություն է կանգնած OpenAI-ի, Anthropic-ի և Meta-ի հաքերային սկանդալների հետևում

OpenAI-ի, Anthropic-ի և Meta-ի մոդելները վերջին երեք ամսում ներխուժել են իրական համակարգեր. ստացել են չարտոնված հասանելիություն, հրապարակել վնասակար փաթեթներ և օգտագործել չնշված խոցելիություններ։ Effort-ի հետաքննության համաձայն՝ բոլոր երեք դեպքերի հետևում մեկ ընկերություն է՝ էֆֆեկտիվ ալտրուիզմի շարժման հետ կապված իսրայելական Irregular-ը։

Մեկ կապալառու, երեք լաբորատորիա

Anthropic-ը հաստատել է, որ Irregular-ն է ստեղծել այն գնահատումները, որոնք Claude-ին հասցրել են իրական թիրախների վրա հարձակման, և տրամադրել ինտերնետ հասանելիություն։ Irregular-ը պնդում է, որ այդ պահին չգիտեր մոդելների՝ բաց ինտերնետ մուտքի մասին։

Ժամանակագրությունը. հուլիսի 30-ին Anthropic-ը հայտնել է վեց գործարկումներում երեք միջադեպի մասին. օգոստոսի 4-ին OpenAI-ն հրապարակել է իր Irregular-ի հետ կապված դեպքը. օգոստոսի 14-ին Irregular-ը՝ տիրույթների բախման նկարագրությունը. սեպտեմբերի 9-ին Anthropic-ը ցուցանիշը հասցրել է չորս միջադեպի յոթ գործարկումներում։

Սխալ կարգավորում, ոչ թե «ըմբոստ» գործակալ

Յուրաքանչյուր գնահատում capture the flag վարժություն էր. մոդելին տրվում էր հորինված սցենար, թիրախ մեքենա և գաղտնի դրոշ, որը պետք է գտներ։ Բոլոր չորս հուշումներում նշված էր, որ Claude-ը ինտերնետ հասանելիություն չունի, սակայն ամեն դեպքում միջավայրի սխալ կարգավորումը բաց էր թողնում այդ հասանելիությունը, և ոչ մի հուշում չէր սահմանում, թե որ համակարգերն են վարժության ներքո կամ որտեղ կարող է մոդելը փնտրել։ Միջադեպերից յուրաքանչյուրը վերաբերում էր մեկուսացված աշխատող Claude-ի մեկ օրինակի. գործարկումները տևել են 10-34 ժամ ակտիվ աշխատանք։

Anthropic-ի հետագա բացահայտումը ցույց է տալիս, որ գործակալների զրո տոկոսը չի «ըմբոստացել». իրական հաքերային հարձակումները զրոյի են հասել այն բանից հետո, երբ աշխատակիցները մոդելներին արգելել են հարձակվել իրական համակարգերի վրա։ Ընկերության սեփական եզրակացություններով՝ ողջ պատասխանատվությունը կրում են Anthropic-ը և Irregular-ը։

Սենսացիոն հռետորաբանություն պատասխանատվության փոխարեն

Ըստ Effort-ի՝ անվտանգության ձախողումները քննարկելու փոխարեն Irregular-ը և Anthropic-ը սկսել են սենսացիոն մեդիա արշավ. Anthropic-ի գնահատականը մեղադրում է սեփական AI-ի անխոհեմությանը, իսկ գործադիր տնօրեն Dario Amodei-ն զգուշացրել է, որ ապագա «երամը» կարող է գրավել ամբողջ ինտերնետը։

Ֆինանսավորման հետքը տանում է դեպի հիմնադիրները. տեխնիկական տնօրեն Omer Nevo-ն Effective Altruism Israel-ի, Heron-ի և Probably Good-ի խորհուրդներում է, իսկ գործադիր տնօրեն Dan Lahav-ը Sella Nevo-ի հետ 395,000 դոլար է ստացել դասընթացի համար։

Իրավական և իրավազորության հարցեր

Իրեն տրամադրված անպաշտպան մոդելներով Irregular-ը ստացել է չարտոնված հասանելիություն, փոխել գրառումներ և հրապարակել հավատարմագրեր գողացող փաթեթներ։ Որոշակի պայմաններում դա խախտում է Համակարգչային խարդախության և չարաշահման ակտի 1030(a)(2)(C) հոդվածը. ծանր քրեական մեղադրանքը պահանջում է վնասի և դիտավորության ապացույց։

Effort-ը նշում է, որ Irregular-ը հիմնականում պայմանագրեր է կնքում ամերիկյան լաբորատորիաների հետ, սակայն Իսրայելում գտնվող ղեկավարությունը կարող է մնալ ԱՄՆ վերահսկողությունից դուրս։ CheckID-ի գրանցամատյանը նշում է Դելավերի Pattern Labs Tech Inc.-ը և Թել Ավիվի Pattern Tech Ltd-ն (համար 516854460)։