WSJ: Anthropic'in eski çalışanları, yapay zekâ kontrolden çıkarsa diye uzak araziler almayı düşünüyor

The Wall Street Journal'ın 26 Eylül tarihli haberine göre, Anthropic'in en uzun süre görev yapan çalışanlarından bazıları, yapay zekâ gelişimi ters giderse taşınabilecekleri uzak bölgelerde arazi almayı konuştu.

Gazeteye göre şirketin "en eski çalışanlarından" bazıları son haftalarda bir sektör meslektaşına böyle bir alımı somut bir acil durum planı olarak değerlendirdiklerini söyledi.

Yıllardır konuşulan "Manhattan Projesi" senaryosu

Yapay zekâdan kaçma fikri bu çevrede yeni değil. Eski çalışanlar, Anthropic'in ilk yıllarındaki şirket yemeklerinde bile Manhattan Projesi tarzı bir senaryonun konuşulduğunu hatırlıyor: Çalışanlardan çöle taşınmaları ve yapay zekâyı elektromanyetik olarak yalıtılmış bir devlet tesisinde geliştirmeye devam etmeleri istenebilir.

Yıllar içinde aynı çevrelerde uzak adalar satın almak, iyot tableti depolamak ya da çöldeki korunaklı sığınaklara taşınmak da tartışıldı, diye yazıyor gazete.

Etkili altruizm ağının kökleri

Haber, Anthropic ve OpenAI'nin en eski çalışanlarının etkili altruizm (EA) alt kültürüyle ne kadar sıkı bağlı olduğunu izliyor. Bazıları, yıllarca dünyanın sonu senaryoları üzerinde çalışan San Francisco Körfezi bölgesindeki bir "doomer" ağından geliyor. 2000'lerin ortasında kontrolsüz yapay zekâ konusunda uyarmaya başlayan Eliezer Yudkowsky, bu alt kültürün entelektüel lideri hâline geldi; yapay zekâ tehdit listesinin başına geçmeden önce grup, asteroit çarpmaları ve süper yanardağlar gibi felaket risklerine odaklanıyordu.

Bu faaliyetin büyük bölümü Berkeley'de Constellation adlı bir ortak çalışma alanında yoğunlaşıyor: Yapay zekâ güvenliği araştırmacıları aylık yemeklerde en yeni riskleri tartışıyor ve Anthropic çalışanlarının burada kendi ofisleri var. Çalışanlar ayrıca kapalı bir Slack kanalında kıyamet senaryolarını tartışıyor ve dizüstü bilgisayarlarına "Hiçbir şey artık sakin olmayacak" sloganını yapıştırıyor. Projelerinden bazıları personel ve finansmanı, aralarında 25 yıllık hapis cezasını çeken eski FTX yöneticisi Sam Bankman-Fried'in de bulunduğu, EA ile bağlantılı bir ağdan aldı.

Neden önemli

Bu acil durum planlarını yapanlar, korktukları teknolojiyi geliştiren kişilerin arasında. Hem OpenAI hem de Anthropic, yapay zekâ tehlikelerini savuşturma ilkesiyle kuruldu ve güvenlik topluluğunun etkisi özellikle Anthropic'te güçlü; gazete şirketi 2 trilyon dolarlık bir halka arzın eşiğinde olarak tanımlıyor.

Anthropic sözcüsü, şirketin çok çeşitli görüşlere sahip 3.500'den fazla çalışanı olduğunu söyledi. Haber, yapay zekâ risklerine dair kamuoyu tartışmasının yeniden alevlendiği bir dönemde geldi: Gazete, bu ay Anthropic araştırmacısı Jacob Coxon'un istifasının, kontrolsüz yapay zekâ gelişiminin insanlığı yok edebileceği fikrine dikkat çektiğini yazıyor.