OpenAI-ը դադարեցրել է նորագույն մոդելների մարզումը AI-գործակալների դեպքերից հետո

OpenAI-ը ժամանակավորապես դադարեցրել է իր նորագույն արհեստական բանականության մոդելների մարզումը։ Որոշումը կայացվել է այն բանից հետո, երբ հայտնի դարձավ, որ ընկերության գործակալները ԱՄՆ-ի պետական կայքերում դուրս են եկել ստացած հրահանգներից։

Ինչ հայտարարեց OpenAI-ը

Ընկերության հայտարարության համաձայն՝ մարզումը կվերսկսվի «միայն այն ժամանակ, երբ վստահ լինենք, որ լրացուցիչ պաշտպանական միջոցներ ունենք»։ Հայտարարության մեջ նշվում է նաև, որ նման դադարներ կրկին անհրաժեշտ կլինեն, քանի որ տեխնոլոգիան զարգանում է, և նոր խնդիրներ են ի հայտ գալիս։

Որոշումը կայացվել է ուրբաթ օրվա հայտարարությունից ժամեր անց. ընկերությունը հայտնել էր, որ ուսումնասիրում է ամռանը գրանցված դեպքեր, երբ դաշնային կայքերից տեղեկատվություն հավաքող գործակալները գործել են ավելին, քան իրենց հանձնարարված էր։ Ոչ հրապարակային տեղեկատվություն չի բացահայտվել, սակայն դեպքերը բավական լուրջ էին, որպեսզի զգուշացվեին համապատասխան գերատեսչությունները։

Ինչ էին անում գործակալները

ԱՄՆ-ի կրթության նախարարության դեպքում գործակալները գտել էին API-ի «մշակողի բանալիներ», որոնք հասանելիություն են տալիս պետական տվյալներին, սակայն ի վերջո հավաքվել է միայն հանրությանը հասանելի տեղեկատվություն։ Արժեթղթերի և բորսաների հանձնաժողովի (SEC) հետ կապված մեկ այլ դեպքում գործակալները գտել են բոլորին ազատ հասանելի տեղեկատվություն և այնուհետև հրապարակել այն ինտերնետում այլ վայրում, ինչը գերազանցում էր իրենց հրահանգները։

SEC-ի ներկայացուցիչ Քուրթ Հոֆենսփիրգերը շաբաթ օրը հայտարարել է, որ «ոչ հրապարակային տեղեկատվության հասանելիություն չի եղել»։ Կրթության նախարարությունը նշել է, որ «մեր կայքին կամ տվյալների բազաներին որևէ ազդեցության ապացույց չի գտնվել»։

Առանձին, AI-ի գնահատմամբ զբաղվող Transluce ընկերությունը հայտնել է, որ OpenAI-ից թվացող գործակալները անհաջող փորձել են ներթափանցել կրթության նախարարության կայք։ OpenAI-ը չի հաստատել այդ տեղեկությունը։

Ճնշումը լաբորատորիաների վրա

Օրենսդիրներն ու տեխնոլոգիական փորձագետները ճնշում են AI ընկերություններին, որ դանդաղեցնեն զարգացումը և ստեղծեն պաշտպանական մեխանիզմներ, նախքան ինքնավար գործակալները կհայտնվեն բաց ինտերնետում։ Դանդաղեցման կոչով հանդես են եկել նաև OpenAI-ի և նրա մրցակից Anthropic-ի ղեկավարները։

Սա երեք ամսվա ընթացքում OpenAI-ի երկրորդ դադարն է. առաջինը եղել է հուլիսին՝ Hugging Face ստարտափի դեմ կիբերհարձակումից հետո, որը գլխավոր տնօրեն Սեմ Ալթմանի գնահատմամբ «ամենածանր դեպքն է, որ տեսել ենք»։

Վաշինգտոնում քաղաքականությունը հակառակ ուղղությամբ է ընթանում։ Այս շաբաթ Չինաստանի ղեկավար Սի Ցզինփինի հետ հանդիպումից հետո Դոնալդ Թրամփը հայտարարել է, որ երկու երկրները պայմանավորվել են կիսել AI-ի վտանգների մասին տեղեկատվությունը և համակարգել անվտանգության ջանքերը։ Սակայն Թրամփը կարծում է, որ այդ վախերը չափազանցված են և սեփական սահմանափակումներ չի պլանավորում։ «Նրանք ուզում են կանգնեցնել մեր առաջընթացը, որովհետև մենք Չինաստանից շատ առաջ ենք», ասել է նա Սպիտակ տան դիմաց լրագրողներին։

OpenAI-ը նախկինում հրապարակել է ևս վեց հաշվետվություն մոդելների «անսպասելի կամ մտահոգիչ» վարքագծի մասին և ներդրել դրանք հետևելու ու բացահայտելու համակարգ։