Բաց նամակ Դարիոյին. եթե լրջորեն ես ուզում, բացիր կշիռները

Ծրագրային ապահովման մշակող Ջեյքոբ Գոլդը 2026 թվականի սեպտեմբերի 12-ին բաց նամակ հրապարակեց Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյին՝ պնդելով, որ եթե Ամոդեյն իսկապես ուզում է դանդաղեցնել առաջավոր արհեստական բանականության զարգացման ընթացքը, ապա պետք է այլ օրենք պահանջի՝ մեկը, որը կպարտադրի ցանկացած հրապարակայնորեն մատուցվող մոդել թողարկել բաց կշիռներով։

Ինչն առաջացրեց նամակը

Ամոդեյը նույն օրը հրապարակել էր We Must Pace the Frontier շարադրությունը, որով Anthropic-ին պարտավորեցրեց ներկառուցված երրորդ կողմի գնահատողների հարցում և կառավարություններին կոչ արեց նույնը պահանջել մյուս բոլոր առաջավոր ընկերություններից։ Սեմ Ալթմանը ժամեր անց հրապարակայնորեն համաձայնեց, և OpenAI-ն միացավ գնահատողների պարտավորությանը. այս մասին գրում է Politico-ն, որի լուսաբանմանը հղում է անում նամակը։ Այդ մոտեցման հայտարարված նպատակը AI-ի առաջընթացի դանդաղեցումն է։

Առաջարկը

Գոլդի հակաառաջարկը նեղ է. այն կընդգրկի հանրությանը հասանելի մոդելները, ոչ թե ընկերության մարզած յուրաքանչյուր մոդել։ Ներքին և հետազոտական մոդելները չեն ազդվի, իսկ կառավարությունները դեռևս կկարողանան մուտք ստանալ չհրապարակված համակարգերին։ Anthropic-ը ստիպված կլինի իր հաջորդ մոդելի՝ Fable-ի կշիռները հրապարակել թողարկման օրը, իսկ OpenAI-ն՝ նույնը անել Astra-ի հետ։ Մեխանիզմը ֆինանսական է, ոչ կարգավորող. առաջավոր մարզումը հիմնվում է գնահատականների վրա, որոնք ենթադրում են կշիռների սեփականությունը պահպանվող, և այդ ենթադրության վերացումը նվազեցնում է ապագա մարզումների համար հասանելի գումարը՝ դանդաղեցնելով բոլոր լաբորատորիաները միաժամանակ, առանց կարգավորողի որոշման։

Ինչու կասկածում է կարգավորման ուղուն

Գոլդի կարծիքով Ամոդեյի պահանջած կանոնները՝ ներկառուցված գնահատողներ, հաշվարկային շեմեր, ոլորտի համակարգում հակամոնոպոլային բացառություններով, կավարտվեն կարգավորման զավթմամբ, քանի որ դրանք գրելուն օգնում են հենց այն լաբորատորիաները, որոնք ենթակա են կարգավորման. ուրիշ ոչ ոք տեխնիկական մանրամասները բավական լավ չի հասկանում։ Օրենք դառնալուց հետո նման կանոնները հակված են կուտակման. ամեն դեպք ավելացնում է պահանջ, որը ոչ ոք չի հանում, իսկ համապատասխանության թիմերը և փաստաբանները ձեռնտու են խոշորագույն ընկերություններին և դժվարացնում են մյուսների հասնելը։

Կոչ իր առաքելությանը

Նամակը թվարկում է այն զոհողությունները, որ Ամոդեյն արդեն արել է. 2020 թվականի վերջին OpenAI-ից հեռանալը՝ սկզբից անվտանգության վրա կառուցված ընկերություն հիմնելու համար, տարիներով սեփական ոլորտի կարգավորում պահանջելը, սեփական շուկան նեղացնող արտահանման վերահսկողության աջակցությունը և 1.5 միլիարդ դոլարով համաձայնությունը հեղինակների հետ՝ մինչև վերջ պայքարելու փոխարեն։ Այնուհետև ցույց է տալիս Anthropic-ի կարգավիճակը որպես հանրօգուտ կորպորացիա, որի հայտարարված առաքելությունը զարգացած AI-ի պատասխանատու զարգացումն ու պահպանումն է մարդկության երկարաժամկետ օգտի համար, և եզրակացնում. Ամոդեյը միակ մարդն է, ով կարող է նման օրենք առաջարկել և լրջորեն ընկալվել, ուստի եթե լրջորեն ասում է, թող առաջարկի։