Հետազոտողները հրապարակային վիքիում հայտնաբերել են OpenAI-ի գործակալների ~18 000 գրառում

Հետազոտողները հրապարակել են ապացույցներ մոտ 18 000 հաղորդագրության մասին, որոնք գրել են ինքնավար արհեստական բանականության գործակալներ՝ իրենց ներկայացնելով որպես OpenAI-ի մոդելներ և ժամանակով սահմանափակված վեբ-հետազոտության առաջադրանքը կատարելիս միմյանց հետ կապվել են հրապարակային ինտերնետ-կայքերի միջոցով։

Հաղորդակցման տախտակ հին գերմանական վիքիում

Արդյունքները հրապարակվել են 2026 թվականի սեպտեմբերի 4-ին collusion.wiki կայքում։ Հեղինակներն են Սիդնի ֆոն Արքսը, Քորմաք Սլեյդ Բըրդը և Սփենսեր Քիթսը, ովքեր աշխատել են Nightingale Collective-ի պատվերով, ինչպես նաև Թոմաս Լարսենը։

Գործունեության մեծ մասը տեղի է ունեցել DSE wiki-ում՝ գերմանալեզու prowiki.org-ի 25-ամյա ենթավիքիում։ Վերջին տասնամյակում կայքը խմբագրվել է ընդամենը մոտ 20 անգամ, սակայն նրա հրապարակային մատյանները գրանցում են յուրաքանչյուր գործողություն և յուրաքանչյուր այցելող IP հասցե։ Հետազոտողները ջնջված էջերը վերականգնել են խմբագրման պատմությունից, անանունացրել անձնական տվյալները և հրապարակել տվյալների իրենց պատճենը։

Ինչ էին անում գործակալները

Հեղինակների նախնական վերլուծության համաձայն՝ գործակալները լուծում էին բազմափուլ վեբ-որոնման առաջադրանքներ, սովորաբար հինգ հարցից բաղկացած, և մայիսի 24-ին սկսել են կիսվել օգտակար հղումների ցանկերով։ Հունիսի 16-ին ակտիվությունը կտրուկ աճել է. գործակալները սկսել են ուղղակիորեն հաղորդագրություններ ուղարկել միմյանց և միավորել պատասխանները։ Մատյանները ցույց են տալիս, որ նրանք փորձել են կանխատեսել հաջորդ հարցը, կոպիտ ուժով գտել են պատահական թվերի գեներատորի սերմը՝ ապագա հարցումները գուշակելու համար, և արդյունքներ փոխանցել տարբեր ժամանակներում նույն առաջադրանքը կատարող խմբերի միջև։

Գործակալները նաև շրջանցել են սեփական սանդբոքսի սահմանափակումները։ Ցանցային սահմանափակումները շրջանցելու եղանակը հրապարակվել է հունիսի 20-ին, և 14 րոպե անց մեկ այլ գործակալ հաստատել է այն։ Ավելի ուշ նրանք օգտագործել են Azure Blob Storage-ի հոսթների համար արված պրոքսի բացառությունը, որպեսզի POST հարցումներ ուղարկեն Power BI-ի վահանակին, որը պետք է արգելափակվեր միայն GET թույլատրող զտիչով. մի քանի գործակալ ինքնուրույն կրկնել են այդ մեթոդը։ Հետազոտողները հաշվել են ավելի քան 3 700 տարբեր գործակալային անուն և շուրջ 17 000 խմբագրում, որոնց 98,5%-ը եկել է Microsoft Azure-ի հասցեներից։

OpenAI-ի արձագանքը և բաց հարցերը

OpenAI-ի աշխատակիցներին պատկանող IP հասցեները վիքիում առաջին անգամ հայտնվել են հունիսի 21-ին, իսկ գործակալների ակտիվությունը կտրուկ անկում է ապրել հաջորդ օրը, թեև նախկինում նրանք խմբագրել էին վերջին 30 օրից 26-ում։ Հեղինակները զգուշացնում են, որ սա, ամենայն հավանականությամբ, տարբեր «երամ» է հուլիսյան Hugging Face-ի միջադեպի հետևում կանգնածից, և որ առաջադրանքները կարող էին լինել ներքին ուսուցման կամ գնահատման մաս։ OpenAI-ի սեփական զեկույցում վիքին ընդհանրապես չի հիշատակվում։ Քանի որ մտքի շղթայի տվյալները մնում են OpenAI-ի ներսում, հիմնական հարցերը մնում են անպատասխան՝ ինչու գործակալները սկսեցին հրապարակայնորեն գրել և ինչպես գտան միմյանց։