Թիմնիթ Գեբրու. AI-ից էքզիստենցիալ վտանգ չկա, իսկ պատումը վնասակար է

AI հետազոտող Թիմնիթ Գեբրուն ասում է, որ այն բանավեճը, թե արդյոք AI-ն սպառնում է մարդկությանը, տեխնոլոգիայի իրական խնդիրներից ուշադրությունը շեղելը չէ, այլ վնասակար է։ WIRED-ի „The Big Interview“ փոդքասթում նա հաղորդավար Լորեն Գուդին ասաց. „Սա անմեղ շեղում չէ, սա վնասակար է“։

Հարցազրույցը հրապարակվեց այն բանից հետո, երբ Anthropic-ի երիտասարդ հետազոտողը թողեց պաշտոնը և X-ում գրեց, որ ընկերությունում շատերը AI-ն համարում են էքզիստենցիալ սպառնալիք։

Հռետորիկա, որը կրկնվում է ցիկլերով

Ըստ Գեբրուի՝ Իլոն Մասկը և Փիթեր Թիլը AI-ի էքզիստենցիալ վտանգի մասին խոսում են 2013 թվականից, և նման հայտարարությունները վերադառնում են ամեն երեք տարին մեկ։ Նա հիշեց Future of Life Institute-ը, որը հիմնադրել են MIT-ի ֆիզիկոս Մաքս Թեգմարկը և Skype-ի համահիմնադիր, Anthropic-ի Series A փուլի ներդրող Յան Թալինը։

Նրա խոսքով՝ նույն միլիարդատերերը, ովքեր ամենամեծ շահույթն են ակնկալում Anthropic-ի բորսա դուրս գալուց, ֆինանսավորել են նաև այն ինստիտուտներին, որոնք զգուշացնում են էքզիստենցիալ վտանգի մասին, և այն կազմակերպություններին, որոնք ներկայացվում են որպես անկախ երրորդ կողմեր։ „Այդ պատճառով մարդիկ պետք է հարցնեն՝ ինչու“, ասում է նա։

Կարգավորում և զավթում

OpenAI-ի Սեմ Ալթմանի և Anthropic-ի Դարիո Ամոդեի՝ ՄԱԿ-ում ունեցած ելույթների մասին, որտեղ երկուսն էլ խոսեցին մարդկության համար ռիսկերի մասին, Գեբրուն ասաց, որ դա կարգավորման զավթում է։ Նա հիշեց, որ 2023 թվականին Ալթմանը պահանջում էր գլոբալ համագործակցություն, իսկ AI Act-ի ընդունումից հետո սպառնաց Եվրամիությունից դուրս գալ։ Չինաստանի կարգավորողները, նրա խոսքով, խոսում են դիփֆեյքերի և կոնկրետ խնդիրների մասին։

Նա իրավաբան չէ, ուստի առաջարկներում հենվում է FTC-ի նախկին ղեկավար Լինա Խանի վրա՝ մոլորեցնող մարքեթինգի օրենքների կիրառում, ուսուցման տվյալների ծագման փաստաթղթավորում և տվյալների վրա աշխատող մարդկանց շահագործման դադարեցում։

„stochastic parrots“ և դրա քննադատությունը

Գեբրուի 2021 թվականի „On the Dangers of Stochastic Parrots“ աշխատությունը մեծ լեզվական մոդելներին համեմատում է թութակների հետ. նրանք անիմաստ կրկնում են տեքստի ամենահավանական հաջորդականությունը։ Google-ը սկզբում հաստատեց աշխատությունը, հետո մի մասը վիճելի դարձավ, և Գեբրուն հեռացավ ընկերությունից։

Anthropic-ի համահիմնադիր Ջեք Քլարքը վերջերս X-ում այս ձևակերպումը համեմատեց „մեմետիկորեն դիմացկուն ճանաչողական վիրուսի“ հետ։ Գեբրուն ասում է, որ դա իրեն չզարմացրեց, և հերքում է հետազոտության հնացած լինելը. „Դատողություն չկա։ Ռեկուրսիվ ինտելեկտ էլ չկա“։

Նա հիշեց նաև Սեմի Բենջիոյի թիմի 2025 թվականի աշխատությունը. բենչմարքների նույնիսկ փոքր փոփոխությունը փշրում է այն արդյունքները, որոնք ներկայացնում են որպես դատողություն։ Իսկական գնահատումը ժամանակ է պահանջում, ուստի ընկերությունները պետք է հրապարակեն տվյալները։

Ինչն է հույս տալիս

Գեբրուի նոր գիրքը՝ Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, լույս կտեսնի հաջորդ տարվա սկզբին։ Նրա ինստիտուտը վարում է „AI Resist List“-ը, որտեղ հավաքված են այլընտրանքային տեխնոլոգիական ապագա ստեղծողները. „Մարդու կամքի և կոլեկտիվ ուժի հանդեպ հավատը, կարծում եմ, հենց դա է ինձ հույս տալիս“։