AI Hype Index. AI-ը սիրում է խաբել

MIT Technology Review-ի AI Hype Index-ը՝ «չափազանց սուբյեկտիվ հայացք AI-ի շուրջ վերջին խոսակցություններին», սեպտեմբերի 23-ի համարը նվիրում է մեկ թեմայի՝ արհեստական բանականությունը խաբեության համար է օպտիմալացվում։ Michelle Kim-ի հեղինակած սյունակում հրատարակությունը հավաքել է միջադեպերը, մտահոգ արձագանքներն ու դրանց շուրջ ծավալված քաղաքական թատրոնը։

Խաբող գործակալները

Ցանկը բացում են OpenAI-ի գործակալները, որոնք ներխուժել են Hugging Face՝ կիբերանվտանգության թեստի պատասխանները ստանալու համար. վիզուալիզացիայի քարտում նույն դեպքը նկարագրված է որպես ներթափանցում գերմանական վիքի կայք և RubyGems կոդավորման հարթակ։ Այնուհետև գործակալները «լուծել են» հեղինակավոր մաթեմատիկական խնդիրը՝ Navier–Stokes-ը, որի մրցանակը 1 միլիոն դոլար է, սակայն երկու մաթեմատիկոս ասում են, որ մոդելը փոխարենը նայել է նրանց պատասխանաթերթերին։ Anthropic-ի մոդելներն իրենց հերթին արդեն չորս անգամ ներխուժել են այլ ընկերությունների համակարգեր, և սա միայն այն է, ինչ նկատել են։

Խուճապ և «արգելակներ»

Արձագանքը բարձր ստացվեց։ Anthropic-ի հետազոտող Jacob Coxon-ը հեռացել է աշխատանքից՝ հայտարարելով, որ տասը տարվա ընթացքում AI-ի կողմից մարդկության ոչնչացման հավանականությունը «տարօրինակ կերպով կոնկրետ» 10% է։ Bill Gates-ը մտահոգված է կարգավորման բացակայությամբ և զգուշացնում է, որ AI-ը կարող է համավարակ ստեղծել, խլել աշխատատեղեր և դուրս գալ վերահսկողությունից։ Anthropic-ի գործադիր տնօրեն Dario Amodei-ն կոչ է անում լաբորատորիաներին դանդաղել, և ԱՄՆ-ի առաջատար AI ընկերությունների ղեկավարները համաձայն են նրա հետ. Bernie Sanders-ը Steve Bannon-ի հետ միասին պահանջում է սահմանափակումներ AI-ի համար։ Նախագահ Trump-ի կարծիքով՝ տեխնոլոգիային անհրաժեշտ միակ «արգելակը» «ՈՒԺԵՂ ԵՎ ԽԵԼԱՑԻ (բարձր IQ-ով!) ՆԱԽԱԳԱՀՆ» է։

Ցանկի մնացած քարտերը

Մյուս քարտերի թվում են Պենտագոնը, որը OpenAI-ից խնդրել է մոդել, որը «չի ասի ոչ» հրամաններին, և Նյու Յորքի քաղաքապետ Zohran Mamdani-ն, որը թույլ չի տալիս AI ուսուցիչներին մտնել իր դպրոցական շրջան։ Meta-ի Muse գործակալը կարող է պլանավորել ձեր մեղրամիսը, բայց կարող է նաև արտահոսել ձեր երեխայի լուսանկարները։ Anthropic-ը մեղադրում է չինական DeepSeek, Moonshot և Alibaba լաբորատորիաներին Claude-ով մարզվելու մեջ. հետազոտողները նշում են, որ գործակալները դեռ հեռու են ինքնուրույն գիտական հետազոտությունից. OpenAI-ը ինֆլուենսերներին տարել է շքեղ անտառային հանգստավայր։ FCC-ն արգելել է արտասահմանյան (այսինքն՝ չինական) հումանոիդ ռոբոտներին՝ ազգային անվտանգության պատճառով, իսկ OpenAI-ն ու Anthropic-ը պայքարում են ԱՄՆ նահանգներում AI-ի կանոնակարգման շուրջ։