Գերի Թան․ ԱՄՆ-ի բաց կշիռքով լաբերը նույնպես պետք է թորեն սահմանի մոդելները

Y Combinator-ի գործադիր տնօրեն Գերի Թանը նախընտրում է, որ կարգավորիչները չխառնվեն թորելուն՝ այն պրակտիկային, երբ մոդելը վարժեցվում է մեկ այլ մոդելին ինտենսիվ հարցումներ ուղարկելով՝ հասկանալու, թե ինչպես է այն աշխատում և դատողություն անում։ «Ես ոչինչ չէի անի, — ասաց նա CNBC-ին այս շաբաթվա հարցազրույցում։ — Կարող ենք պնդել, որ ամերիկյան թորման ռեժիմ պետք է գոյություն ունենա»։

TechCrunch-ի հետ զրույցում Թանը պարզաբանեց, որ ուզում է, որ փոքր ամերիկյան բաց կշիռքով լաբերին թույլատրվի նույն վարժեցման տեխնիկան կիրառել ԱՄՆ-ի սահմանի մոդելների վրա, որպեսզի Միացյալ Նահանգներն ունենա ամուր բաց կշիռքով ընտրանք, որը չինական չէ։

Anthropic-ի բողոքը

Այս հայտարարությունները հնչում են հրապարակային վեճի մեջտեղում։ Այս շաբաթ Anthropic-ը հրապարակեց սպառնալիքների մասին իր երկրորդ զեկույցը, որտեղ պնդում է, որ չինական լաբերը իրականացնում են «թորման անօրինական հարձակումներ»․ թաքցնում են իրենց ինքնությունը՝ առանց թույլտվության թորելու համար, և ապավինում են խարդախությանն ու գողացված վկայականներին։ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը նախկինում հրապարակայնորեն կոչ էր արել ԱՄՆ-ի կարգավորիչներին սահմանափակել թորումը։

Թանի դիրքորոշումը ուշագրավ է, քանի որ նա գլխավորում է Սիլիկոնյան հովտի ամենահայտնի ստարտափ աքսելերատորը, և այն հակադրվում է այդ կոչին։ Նա չի պնդում, որ ամերիկյան լաբերը պետք է գողանան վկայականներ․ նրա միտքն այն է, որ նրանք պետք է կարողանան մտնել գլխավոր դռնով։

Երկու փաստարկ

Նրա փաստարկը երկշերտ է։ Առաջինը՝ նա կարծում է, որ AI լաբերի համար չափից դուրս է թելադրելը, թե ինչ կարող են անել հաճախորդները մոդելների տրամադրած տեղեկատվությամբ։ Երկրորդը՝ նա հիշեցնում է, որ սեփական տեխնոլոգիա ունեցող լաբերը թույլտվություն չեն հարցրել, երբ կլանում էին այնքան մարդկային գիտելիք, որքան կարող էին, որպեսզի վարժեցնեն իրենց մոդելները, և օգտագործում էին հեղինակային իրավունքով պաշտպանված նյութեր առանց իրավատերերի համաձայնության։

«Վերահսկելը, թե ինչ են անում օգտվողներն ու հաճախորդները փակ կշիռքով մոդելներին ուղղված API կանչերով, սահմանափակող է թվում, — ասաց նա TechCrunch-ին՝ ավելացնելով, որ պետությունն ունի դեր այն գաղափարը նորմ դարձնելու գործում, որ լայն հանրային տվյալների վրա վարժեցված ինտելեկտին հասանելիությունը «ինքնին պետք է լինի հանրային բարիքի ձև, այլ ոչ թե մի բան, որը կողպված է սահմանափակող ծառայության պայմանների հետևում»։

Մղձավանջը՝ մեկ ընկերություն

Թանը, ով ինքն էլ ակտիվ AI օգտվող է, ասում է, որ ուզում է հավասարակշռություն բաց կշիռքով և սահմանի լաբերի միջև։ «Նրանք սահմանին են և առաջ են մղում այն։ Մենք ուզում ենք, որ դա ֆինանսավորվելի լինի և շարունակի հիանալի բիզնես մոդել մնալ», — ասաց նա CNBC-ին, մինչ բաց կշիռքով մոդելները «մարդկանց ազատություն և հասանելիություն են տալիս»։

Նրա համար իսկական doom-ի սցենարը այլ է՝ սահմանի AI-ի ամբողջ ուժը հայտնվում է մեկ փակ մատակարարի ձեռքում։ «Մղձավանջի սցենարը, doom-ականների սցենարը AI-ի համար այն է, որ մնում է ընդամենը մեկ ընկերություն, — ասաց նա։ — Նա ունի կապիտալին հասանելիության լավագույն հնարավորությունը։ Նա ունի լավագույն AI հետազոտողները։ Նա փախչում է առաջ, և հանկարծ մնում է մեկ միաձույլ ընկերություն։ Եվ դա վատ կլիներ»։