AI հետազոտողները տեսանյութերում. գերինտելեկտը նույնքան վտանգավոր է, որքան հնչում է

Ոչ առևտրային կազմակերպությունը՝ Palisade Research, որը ուսումնասիրում է արհեստական ինտելեկտի հնարավորություններն ու մոտիվացիաները, frominside.ai կայքում հրապարակել է տեսահարցազրույցների շարք։ Ըստ The Verge-ի՝ զրույցները ձայնագրվել են OpenAI-ի, Google-ի և Anthropic-ի ներկա ու նախկին աշխատակիցների հետ, և դրանցում հետազոտողները բացահայտ խոսում են իրենց իսկ ստեղծած ռիսկերի մասին։

Ծրագիրը ղեկավարել է Eli Tyre-ը, գործադիր պրոդյուսերը եղել է John Steidley-ը, իսկ գլխավոր խմբագիրը՝ Rudy Behrens-ը։ Կայքը կառուցել է Lightcone Infrastructure-ը։

Անհետացման հավանականությունը և վերահսկման խնդիրը

OpenAI-ի և Google DeepMind-ի նախկին աշխատակից Geoffrey Irving-ը հայտարարում է, որ իր գնահատմամբ մարդկության անհետացման շանսը հավասար է մետաղադրամ նետելուն։ Google DeepMind-ի հետազոտող Neel Nanda-ի խոսքով՝ հավանականությունը առնվազն 10% է, և սա անհավատալիորեն բարձր ցուցանիշ է։ OpenAI-ի նախկին հետազոտող Daniel Kokotajlo-ն ասում է, որ գերինտելեկտը աստծու պես հզոր կլինի, և ոչ ոք չգիտի, թե ինչպես վերահսկել այն, ուստի դրա ստեղծումը անթույլատրելի է։

Ինչու են նրանք աշխատում այն բանի վրա, ինչը վտանգավոր են համարում

Տեսանյութերի մի մասը պատասխանում է հարցերին՝ արդյոք այս ամենը միայն մարքեթինգ է, և ինչու մարդը մնում է նախագծում, որը ինքն է համարում աղետի հնարավոր աղբյուր։ Google-ի աշխատակից Mary Phuong-ն ասում է, որ իր խոսքերը պետք է կասկածով ընդունել, քանի որ լաբորատորիան իրեն աշխատավարձ է վճարում։ Nanda-ն էլ բացատրում է, որ կհեռանար աշխատանքից, եթե չհավատար, որ իր աշխատանքը նվազեցնում է այդ ռիսկերը, սակայն ընկերությունները իր հեռանալու պատճառով չեն դադարի համակարգեր ստեղծել։

Ինչու դա կարևոր է հիմա

Տեսանյութերը հրապարակվել են նույն շաբաթ, երբ OpenAI-ն անվտանգության պատճառով կասեցրել է իր առաջատար Astra մոդելի մեկնարկը և փոխարենը թողարկել է էժան GPT-6.1 Sol-ը, ինչը նշանակում է, որ լաբորատորիաներն իրենք են ընդունում իրենց ամենահզոր համակարգի գործարկման ռիսկը։

Նախագիծն ինքը միասնական լուծում չի առաջարկում և ընթերցողին խորհուրդ է տալիս դիմել AI Impacts-ի հետազոտողների հարցմանը՝ ոլորտի ավելի ներկայացուցչական պատկեր ստանալու համար։