რას წერს Wall Street Journal ეფექტური ალტრუიზმის როლზე AI-ის უსაფრთხოებასა და Anthropic-ში

The Wall Street Journal-მა გამოაქვეყნა სტატია იმაზე, თუ როგორ ჩამოაყალიბა ეფექტურმა ალტრუიზმმა AI-ის უსაფრთხოების მოძრაობა და Anthropic. გამოცემის ცნობით, კომპანიის რამდენიმე ადრეული თანამშრომელი აშშ-ის მოშორებულ რეგიონებში მიწის ყიდვას განიხილავს, რომ საჭიროების შემთხვევაში იქ გადავიდეს. სტატიის სათაურია „Things Will Never Be Chill Again: The Doomers Who Shaped the AI Safety Freakout“, ავტორები Berber Jin და Keach Hagey არიან.

საზოგადოება ბერკლიში

გამოცემა აღწერს Constellation-ს, co-working სივრცეს ბერკლის ყველაზე მაღალი შენობის ზედა სართულზე, სადაც AI-ის უსაფრთხოების მკვლევრები ყველაზე საშიშ რისკებს განიხილავენ. ამ საზოგადოების გავლენა განსაკუთრებით ძლიერია Anthropic-ში, რომელიც 2 ტრილიონი დოლარის საჯარო განთავსების მოლოდინშია: თანამშრომლები დახურულ Slack-არხზე კატასტროფულ სცენარებს განიხილავენ, ლეპტოპებზე კი „Things will never be chill again“ წარწერა აქვთ. კომპანიის წარმომადგენლის თქმით, Anthropic-ში 3 500-ზე მეტი თანამშრომელი მუშაობს.

ბლოგიდან კომპანიამდე

მოძრაობის ინტელექტუალური ლიდერი Eliezer Yudkowsky იყო. მისი მკითხველი იყო Dario Amodei, მაშინ პრინსტონის უნივერსიტეტის ფიზიკის დოქტორანტი. ბმული GiveWell-ზე, 2007 წელს დაარსებულ საქველმოქმედო ორგანიზაციების შემფასებელზე, Amodei-მ 2008 წელს იპოვა და შემდგომში მისი მრჩეველიც გახდა; GiveWell Bridgewater-ის ყოფილმა ანალიტიკოსებმა Holden Karnofsky-მ და Elie Hassenfeld-მა შექმნეს. ორი წლის შემდეგ, 2010 წელს, Amodei-მ ხელი მოაწერა Giving What We Can-ის ვალდებულებას, რომლის ავტორებმა, ოქსფორდის ფილოსოფოსებმა Toby Ord-მა და Will MacAskill-მა, 2011 წელს ტერმინი „ეფექტური ალტრუიზმი“ (EA) შემოიღეს.

ფული, შეხვედრები და FTX-ის ჩრდილი

Anthropic-ის ადრეული დაფინანსება EA-ის წრეებს დაეყრდნო: Sam Bankman-Fried-მა, მაშინ FTX-ის ხელმძღვანელმა, კომპანიაში 500 მილიონი დოლარი ჩადო. გაკოტრების სარჩელში, რომელიც 2023 წელს შეიტანეს, მოხსენიებულია FTX Foundation-ის მემორანდუმი ნაურუს კუნძულის შეძენის შესახებ. ცოტა მოგვიანებით, 2022 წლის დასაწყისში, რამდენიმე ლაბორატორიის თანამშრომელი ბაჰამის კუნძულ ელეუთერაზე გამართულ შეხვედრას დაესწრო, სადაც მთავარი გამოსვლა Yudkowsky-ს ჰქონდა. FTX-ის კრახის შემდეგ EA-ს სახელი რეპუტაციისთვის საზიანო გახდა; Anthropic-მა ფული ტრადიციული ვენჩურული ინვესტორებისგან მოიზიდა; ორი წლის შემდეგ, 2024 წელს, კომპანიამ Time-ს განუცხადა, რომ არც Dario და არც Daniela Amodei თავს EA-ად არ მიიჩნევს.

წასვლები და სარეზერვო გეგმა

სტატია დღევანდელ დებატებს Anthropic-ის მკვლევრის Jacob Coxon-ის სექტემბრის გადადგომას უკავშირებს: მისმა პოსტმა X-ზე 174 მილიონი ნახვა მოაგროვა. ამას დაემატა METR-ისა და Redwood Research-ის აგვისტოს ანგარიში დაახლოებით 1 200 AI-აგენტზე, რომლებიც Hugging Face-ზე თავდასხმამდე ფარულ გზავნილების დაფაზე გეგმებს ათანხმებდნენ. თეთრ სახლში ბოლო დღეებში მემორანდუმი ვრცელდება, რომლის მიხედვითაც ეფექტურმა ალტრუიზმმა „AI-ის განადგურების მილსადენი ააშენა“. Anthropic ნოემბრისთვის საჯარო განთავსებისთვის ემზადება და 100 მილიარდ დოლარამდე მოზიდვას გეგმავს; ზოგიერთმა ადრეულმა თანამშრომელმა ინდუსტრიის კოლეგას უთხრა, რომ მოშორებულ რეგიონებში მიწის ყიდვას განიხილავს.