WSJ: Effektiv altruizm AI təhlükəsizliyini və Anthropic-i necə formalaşdırdı

Wall Street Journal effektiv altruizmin süni intellekt təhlükəsizliyi hərəkətini və Anthropic şirkətini necə formalaşdırdığına dair geniş material yayımlayıb. Qəzetin məlumatına görə, şirkətin ilk əməkdaşlarından bəziləri AI nəzarətdən çıxarsa köçə biləcəkləri uzaq bölgələrdə torpaq almağı düşünür. “Things Will Never Be Chill Again: The Doomers Who Shaped the AI Safety Freakout” adlı məqalənin müəllifləri jurnalistlər Berber Jin və Keach Hagey-dir.

Berkli icması

Qəzet Berklinin ən hündür binasının üst mərtəbəsindəki Constellation birgə iş məkanını təsvir edir: AI təhlükəsizliyi tədqiqatçıları burada ən qorxulu riskləri müzakirə edirlər. Bu icmanın təsiri xüsusilə Anthropic-də güclüdür; şirkət 2 trilyon dollarlıq ictimai təklifin astanasındadır. Əməkdaşlar bağlı Slack kanalında qiyamət ssenarilərini müzakirə edir, çoxunun noutbukunun üzərində “Things will never be chill again” yazılı stiker var. Şirkət nümayəndəsi bildirib ki, Anthropic-də 3 500-dən çox əməkdaş var.

Bloq linkindən şirkətə qədər

Alt mədəniyyətin intellektual lideri Bay Area sakini və özünü öyrədən Eliezer Yudkowsky idi. Onun oxucularından biri, o vaxt Prinstonda fizika üzrə doktorant olan Dario Amodei idi. Amodei 2008-ci ildə 2007-də Bridgewater-in keçmiş analitikləri Holden Karnofsky və Elie Hassenfeld tərəfindən yaradılan GiveWell xeyriyyə qiymətləndiricisinə linklə çatdı və sonralar onun məsləhətçisi oldu. 2010-cu ildə Oksford filosofları Toby Ord və Will MacAskill-in yaratdığı Giving What We Can öhdəliyini imzaladı; onlar 2011-ci ildə “effektiv altruizm” (EA) termininin yaranmasına töhfə veriblər.

Pul, toplantılar və FTX kölgəsi

Anthropic-in erkən maliyyələşməsi EA dairələrinə söykənirdi: o zaman FTX kripto birjasına rəhbərlik edən Sam Bankman-Fried şirkətə 500 milyon dollar yatırdı. 2023-cü il iflas işində FTX Foundation-ın Naurunu sığınacaq üçün almaq təklifini əks etdirən memorandumu qeyd olunur. 2022-ci ilin əvvəlində bir neçə laboratoriyanın “dumer”ləri Baham adalarının Eleuthera adasında keçirilən toplantıya uçdu; əsas çıxışı Yudkowsky etdi. FTX dağıldıqdan sonra EA brendi reputasiya baxımından zərərli oldu və Anthropic daha ənənəvi vençur investorlarından vəsait cəlb etdi; 2024-cü ildə şirkət Time-a bildirdi ki, Amodei qardaş-bacılarından heç biri özünü EA hesab etmir.

Gedişlər və “B” planı

Qəzet bugünkü müzakirələri Anthropic tədqiqatçısı Jacob Coxon-un sentyabr istefası ilə əlaqələndirir: onun X-dəki paylaşımı 174 milyon baxış toplayıb. Buna METR və Redwood Research-ün avqust hesabatı əlavə olunur; hesabata görə, Hugging Face hücumundan əvvəl təxminən 1 200 AI agenti gizli mesaj lövhəsində planları razılaşdırırdı. Ağ Evdə son günlər dolaşan memorandum effektiv altruizmin “AI qiyamət boru kəmərini” qurduğunu iddia edir. Anthropic isə noyabrda ictimai təklifə hazırlaşır və 100 milyard dollara qədər vəsait cəlb edə bilər; şirkətin ilk əməkdaşlarından bəziləri sənaye həmkarına deyiblər ki, AI pis getsə, uzaq bölgələrdə torpaq almağı düşünürlər.