WSJ. ինչպես արդյունավետ ալտրուիզմը ձևավորեց AI անվտանգությունը և Anthropic-ը

Wall Street Journal-ը հրապարակել է նյութ այն մասին, թե ինչպես արդյունավետ ալտրուիզմը ձևավորեց արհեստական բանականության անվտանգության շարժումը և Anthropic ընկերությունը։ Թերթի տվյալներով՝ ընկերության առաջին աշխատակիցներից ոմանք դիտարկում են ԱՄՆ-ի հեռավոր շրջաններում հող գնելը, որպեսզի անհրաժեշտության դեպքում այնտեղ տեղափոխվեն։ Հոդվածի վերնագիրն է «Things Will Never Be Chill Again: The Doomers Who Shaped the AI Safety Freakout», հեղինակները լրագրողներ Berber Jin-ը և Keach Hagey-ն են։

Համայնք Բերկլիում

Թերթը նկարագրում է Constellation-ը՝ Բերկլիի ամենաբարձր շենքում գտնվող համատեղ աշխատանքային տարածքը, որտեղ քննարկվում են ամենասարսափելի AI ռիսկերը։ Այս համայնքի ազդեցությունը հատկապես ուժեղ է Anthropic-ում, որը կանգնած է 2 տրիլիոն դոլար արժողությամբ հանրային տեղաբաշխման շեմին․ աշխատակիցները փակ Slack ալիքում քննարկում են աղետի սցենարներ, իսկ նոութբուքերին շատերը կրում են «Things will never be chill again» գրառմամբ կպչուն։ Ընկերության ներկայացուցիչն ասել է, որ Anthropic-ում 3 500-ից ավելի աշխատակից կա։

Բլոգի հղումից մինչև ընկերություն

Ենթամշակույթի ինտելեկտուալ առաջնորդը Eliezer Yudkowsky-ն էր՝ Bay Area-ի ինքնուսույց։ Նրա ընթերցողներից էր Dario Amodei-ն՝ այն ժամանակ Փրինսթոնի ֆիզիկայի դոկտորանտ։ GiveWell-ի՝ բարեգործական կազմակերպությունները գնահատող հարթակի հղումը, որը 2007-ին հիմնել էին Bridgewater-ի նախկին վերլուծաբաններ Holden Karnofsky-ն ու Elie Hassenfeld-ը, Amodei-ն գտել է 2008-ին և հետագայում դարձել դրա խորհրդականը։ 2010-ին նա ստորագրել է Giving What We Can-ի պարտավորությունը, որը ստեղծել էին Օքսֆորդի փիլիսոփաներ Toby Ord-ն ու Will MacAskill-ը․ վերջիններս 2011-ին մասնակցեցին «արդյունավետ ալտրուիզմ» (EA) տերմինի ի հայտ գալուն։

Փող, հավաքույթներ և FTX-ի ստվերը

Anthropic-ի վաղ ֆինանսավորումը հենվում էր EA շրջանակների վրա․ Sam Bankman-Fried-ը, այն ժամանակ FTX կրիպտո բորսայի ղեկավարը, ընկերությունում ներդրեց 500 միլիոն դոլար։ 2023-ի սնանկության գործում հիշատակվում է FTX Foundation-ի մեմորանդումը Նաուրու կղզի-պետությունը բունկերի համար գնելու մասին։ 2022-ի սկզբին մի քանի լաբորատորիաների «դումերներ» թռան Բահամյան Էլեուտերա կղզում կազմակերպված հավաքույթին, որտեղ ելույթ ունեցավ Yudkowsky-ն։ FTX-ի փլուզումից հետո EA ապրանքանիշը վարկաբեկվեց, և Anthropic-ը գումար հավաքեց ավելի ավանդական վենչուրային ներդրողներից․ 2024-ին ընկերությունը Time-ին ասաց, որ Amodei քույր-եղբայրներից ոչ ոք իրեն EA չի համարում։

Հեռանալներ և «Բ» ծրագիր

Թերթը ներկայիս բանավեճը կապում է Anthropic-ի հետազոտող Jacob Coxon-ի սեպտեմբերյան հրաժարականի հետ․ նրա գրառումը X-ում հավաքել է 174 միլիոն դիտում։ Դրան ավելացավ METR-ի և Redwood Research-ի օգոստոսյան զեկույցը՝ Hugging Face-ի վրա հարձակումից առաջ շուրջ 1 200 AI գործակալների մասին։ Սպիտակ տանը վերջին օրերին շրջանառվում է մեմորանդում, որի համաձայն արդյունավետ ալտրուիզմը «կառուցել է AI-ի կործանման խողովակը»։ Anthropic-ը պատրաստվում է հանրային տեղաբաշխման արդեն նոյեմբերին՝ մինչև 100 միլիարդ դոլար ներգրավելու հնարավորությամբ, իսկ ընկերության առաջին աշխատակիցներից ոմանք ոլորտի գործընկերոջն ասել են, որ դիտարկում են հող գնելը հեռավոր շրջաններում, եթե AI-ն սխալ ճանապարհով գնա։