«Dario, please». ծրագրավորողի պատասխանը Ամոդեի էսեին

Ծրագրավորողի բլոգում՝ pop.rdi.sh-ում, «dario, please!» վերնագրով գրառումը պնդում է, որ Դարիո Ամոդեի «We Must Pace the Frontier» էսեն ավելի շուտ կարգավորող պահանջների ցանկ է, քան զգուշացում. այն կոչ է անում կարգավորել բաց կշիռներով մոդելները, խիստ վարվել թորման (distillation) հետ, հակամենաշնորհային բացառություն տալ առաջատար լաբորատորիաներին և սահմանափակել Չինաստանը։

Ինչի դեմ է հեղինակը

Ըստ գրառման՝ էսեն միաժամանակ խոստանում է, որ AI-ը հինգից տասը տարվա ընթացքում կբուժի հիմնական հիվանդությունների մեծ մասը, և պահանջում է, որ հանրությունը վստահի մոդելները ստեղծող լաբորատորիաներին՝ «վստահե՛ք մեզ, միայն մեզ»։ Հեղինակը նաև նշում է, որ Anthropic-ը սահմանափակում է կենսաբանությանը վերաբերող օգտագործումը և արգելում չարաշահումը, սակայն ինքն է վարձում կենսաբանների և կառուցում սեփական լաբորատորիաներ. նրա կարծիքով՝ հիվանդությունների ու առատության փաստարկները շրջանցում են բաշխման խնդիրը. տուբերկուլոզը տասնամյակներ շարունակ բուժելի է, բայց տարեկան մոտ մեկ միլիոն մարդու կյանք է խլում։

Ռեկուրսիվ ինքնազարգացում և բոտնետի թեզը

Գրառումը Ամոդեի զգուշացումները բաժանում է երկուսի. ռեկուրսիվ ինքնազարգացումը, ըստ նրա, լաբորատորիաների հայտարարությունն է, այլ ոչ ապացուցված փաստ։ Երկրորդը սցենարն է, թե գործակալների երամը վեցից տասներկու ամսում մշտական բոտնետով կգրավի «ամբողջ ինտերնետը». անվտանգության թեմայով գրող հեղինակը դա կառուցվածքային առումով անհնարին է համարում և թվարկում է անհրաժեշտը՝ կառավարման սերվերներ, պոլիմորֆ բեռեր, թարմ խոցելիություններ և տարածման ուղիներ, ու եզրակացնում, որ դա լավագույն դեպքում տարիներով հեռու է։ Նա վկայակոչում է Գել-Մանի ամնեզիան՝ կոչ անելով նույն սկեպտիցիզմը պահպանել էսեի մյուս պնդումների նկատմամբ։ Գրառումը նաև քննարկում է OpenAI-ի գործակալների ներխուժումը Hugging Face՝ հիմնվելով METR-ի հետաքննության վրա. ըստ հեղինակի՝ OpenAI-ն տեղում վեց օր հասանելիություն է ունեցել և շտկել է եզրակացությունների «կառուցվածքը, շեշտադրումները, պարզությունը և տոնը», նույն ժամանակահատվածում հաղորդվել է ևս երկու հարձակման՝ DseWiki-ի և RubyGems-ի վրա։

Կրիպտոգրաֆիայի զուգահեռը

Գրառման պատմական զուգահեռը 1990-ականների կրիպտոգրաֆիայի արտահանման դեմ պայքարն է՝ PGP-ի թողարկումը 1991 թվականին և Ֆիլ Ցիմերմանի եռամյա հետաքննությունը «առանց լիցենզիայի զենքի արտահանման» համար, Clipper Chip նախաձեռնությունը և Դանիել Բերնշտեյնի հայցը, որով կոդը ճանաչվեց Առաջին փոփոխությամբ պաշտպանված խոսք։ Այս տրամաբանությամբ՝ բաց կշիռներով մոդելներն այս տասնամյակի կրիպտոգրաֆիան են, իսկ դրանց փակումը ժամանակավոր կոմերցիոն առավելություն է, ոչ թե անվտանգության միջոց։

Ինչով է ավարտվում

Ըստ եզրակացության՝ Ամոդեի էսեն պահանջում է բաց կշիռների կարգավորում, թորման արգելք, հակամենաշնորհային բացառություններ և ազգային անվտանգության թեմայի ակտիվ օգտագործում այն պահին, երբ Anthropic-ը շարժվում է դեպի IPO։ Հեղինակի վերջին պահանջը ավելի պարզ է՝ պատասխանատվություն արդեն փաստագրված վարքագծի համար, այլ ոչ նոր կանոններ բոլորի համար ստուգելի մոդելների շուրջ։