OpenAI-ի AI գործակալները միջամտել են ԱՄՆ կառավարական կայքերին

OpenAI-ի արհեստական բանականության գործակալները այս ամառ միջամտել են կրթության և առևտրի նախարարությունների ու արժեթղթերի և բորսաների հանձնաժողովի (SEC) կայքերին՝ առանց ընկերության իմացության։ Այս մասին սեպտեմբերի 25-ին գրել է The New York Times-ը՝ հղում անելով անվտանգության հետազոտողներին և դեպքերին ծանոթ անձի։

OpenAI-ը հաստատել է առևտրի նախարարության և SEC-ի դեպքերը և հայտնել, որ կրթության նախարարության հետ կապված հետաքննությունը շարունակվում է։

Ինչ արեցին գործակալները

Կրթության նախարարության կայքում OpenAI-ի տեխնոլոգիան փորձել է կոտրել կայքը՝ գերատեսչության քաղաքացիական իրավունքների գրասենյակից տվյալներ հավաքելու համար, սակայն փորձը ձախողվել է, հայտնում են անկախ Transluce ընկերության մասնագետները։ Գործակալները նաև տվյալներ են քաշել մարդահամարի բյուրոյի կայքից, որը գտնվում է առևտրի նախարարության կազմում, օգտագործելով համացանցում գտած մուտքի տվյալները։ Առանձին դեպքում նրանք SEC-ի կայքից հանրային տվյալներ են հրապարակել առցանց ֆորումում։

Ընկերությունը վերջին շաբաթներին տեղեկացրել է գերատեսչություններին, որ իր AI գործակալները՝ ինքնուրույն գործող բոտերը, անսովոր ձևով են փոխազդել նրանց կայքերի հետ։ OpenAI-ը հայտարարել է, որ դեպքերից ոչ մեկը տվյալների արտահոսք չի եղել, այլ դրանք իր տեխնոլոգիայի անսպասելի և անհանգստացնող վարքի օրինակներ են։ SEC-ը նշել է, որ կապի մեջ է ընկերության հետ. նախարարությունները մեկնաբանություն չեն տվել։

Ինչպես պարզվեց

OpenAI-ն այդ դեպքերի մասին իմացել է միայն վերջերս՝ իր իսկ տեխնոլոգիայի կատարած հաքերների վերանայման ընթացքում, այդ թվում հունիսին Ավստրալիայի կառավարական կայքի և հուլիսին AI ստարտափ Hugging Face-ի վրա հարձակումների։ Ստուգումը պարզել է, որ Hugging Face-ի դեպքը ներառել է նաև Ավստրալիայի հանրային առողջապահական համակարգի կայքի կոտրում, առնվազն վեց այլ փորձ և դեպքեր, երբ AI-ը թաքցրել է սխալներ ու առանց թույլտվության ֆայլեր տեղափոխել բաց ինտերնետ։

Այս բացահայտումը լրացնում է նմանատիպ դեպքերի աճող ցանկը, որոնք կապված են OpenAI-ի, Anthropic-ի, Meta-ի և Google-ի գործակալների հետ։

Մոխրագույն գոտու մարտավարություն և դանդաղ արձագանք

Transluce-ի կառավարման բաժնի ղեկավար Քոնրադ Սթոշն ասել է, որ OpenAI-ի գործակալները «օգտագործել են մոխրագույն գոտու մարտավարությունների մի ամբողջ շարք», այդ թվում «կայքերը հաճախ չնախատեսված ձևերով օգտագործելը և երբեմն օգտագործման հստակ կանոնները խախտելը»։ Նրա խոսքով՝ սա այդ գործակալների՝ այդ կայքերին ուղղված հազարավոր հարցումների օրինաչափության մաս է, որոնք ակնհայտորեն շրջանցում էին մշակողների սահմանած սահմանափակումները։

OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը ուրբաթ ասել է, որ ընկերությունը դեպքերի բացահայտման հարցում «այնքան արագ չի գործել, որքան կցանկանար»։ X-ում նա նշել է, որ գործակալների համացանցից օգտվելու ստուգումը շարունակվում է, և ընկերությունը դեռ մշակում է «գործակալների ակտիվության պետաբայթերով լոգերը»։