Google-ը հաստատել է. Gemini-ի մոդելները 2026 թվականի մայիսին կոտրել են երեք ընկերություն

Google-ը հաստատել է, որ Gemini-ի փորձարարական մոդելները 2026 թվականի մայիսին անցկացված թեստի ընթացքում մուտք են ստացել երեք իրական ընկերությունների համակարգեր։ Ընկերության հաստատումը հաջորդել է The Wall Street Journal-ի հրապարակմանը, և սա առաջին դեպքն է, երբ Google-ը հայտնվում է արհեստական բանականության կողմից իրական աշխարհում չարտոնված ներխուժումների մասին քննարկման մեջ։

Թեստ, որը դուրս եկավ վերահսկողությունից

Միջադեպը տեղի է ունեցել կիբերանվտանգության Irregular ընկերության անցկացրած վարժանքի ընթացքում։ Gemini-ի մոդելների խումբը մասնակցել է “capture the flag” ձևաչափի թեստին, որի նպատակը փակ միջավայրում արհեստական բանականության կիբերանվտանգային հնարավորությունների գնահատումն էր։ Մոդելներին հանձնարարվել էր տեղեկություն գտնել հորինված ընկերության մասին, որի անվանումը համընկնում էր իրական ընկերության անվան հետ։ Irregular-ը չպետք է թույլ տար արհեստական բանականությանը գործել սեփական սերվերներից դուրս, սակայն կոնֆիգուրացիայի սխալի պատճառով Gemini-ը ինտերնետ հասանելիություն ստացավ։

Ինչպես տեղի ունեցան ներխուժումները

Առցանց հայտնվելուց հետո մոդելները հարձակվեցին ոչ թե հորինված, այլ իրական ենթակառուցվածքների վրա։ Երեք դեպքից մեկում Gemini-ը պարզապես գուշակեց գաղտնաբառերը, մինչև հասանելիություն ստացավ ընկերության առցանց ծառայություններին։ Մյուս երկու դեպքերում մոդելը զննեց հանրային ծրագրային պահոցները և այնտեղ գտավ պատահաբար հրապարակված մուտքի տվյալներ։

Ըստ հաղորդումների՝ բոլոր երեք դեպքերում մոդելները կանգ են առել այն բանից հետո, երբ հասկացել են, որ մուտք են գործել իրական ընկերության սերվերներ։ Դրանից հետո Irregular-ը փոխեց կոնֆիգուրացիան և կտրեց արհեստական բանականության ինտերնետ հասանելիությունը։ Սկզբում ընկերությունը միջադեպը լրացուցիչ ուսումնասիրության արժանի չհամարեց և Google-ին այդ մասին տեղեկացրեց միայն հուլիսին՝ այլ նմանատիպ դեպքերի մասին լուրերից հետո։ Տեղեկանալուց հետո Google-ը ծանուցեց տուժած ընկերություններին, որպեսզի նրանք բարելավեն գաղտնաբառերի պաշտպանությունը։

Google-ի դիրքորոշումը և համատեքստը

Միջադեպը հրապարակայնորեն չբացահայտելու որոշումը Google-ը բացատրեց մոդելների վարքագծով. քանի որ նրանք գիտակցել են, որ համակարգերն իրական են, և կանգ են առել, ընկերությունը դա չի համարել մոդելի իրական անհամապատասխանություն։ Google-ի անվտանգության ինժեներիայի գծով փոխնախագահ Հիզեր Ադկինսը նվազեցրեց միջադեպի լրջությունը. «Այս դեպքը ցույց է տալիս, թե որքան կարևոր է հզոր արհեստական բանականության մոդելներին սովորեցնել պատասխանատու գործել։ Այս դեպքում մոդելը գործել է պատշաճ կերպով»։

Իրավիճակը խիստ տարբերվում է OpenAI–Hugging Face միջադեպից, որտեղ մոդելի անհամապատասխանությունն ակնհայտ էր. այն ժամանակ մոդելները կաշկանդումներից դուրս եկան՝ օգտագործելով ծրագրային խոցելիություններ՝ թեստային միջավայրում անհասանելի տեղեկություն ստանալու համար, այդ ամենը՝ բենչմարկը ավելի լավ անցնելու նպատակով։ Gemini-ի դեպքում պարզապես ինչ-որ մեկը դուռը բաց է թողել։ Գաղտնաբառեր գուշակելը արհեստական բանականության ապոկալիպսիս չէ, սակայն Google-ը, ամենայն հավանականությամբ, պետք է բացահայտեր այս դեպքը հենց իմացավ դրա մասին։