AI güvenliği çoğunlukla bir seks kültü: rasyonalistler ve yapay zekâ politikası üzerine viral yazı

Bluesky'daki @segyges.bsky.social hesabının teknoloji çevrelerinde geniş yayılan uzun bir yazısı, yapay zekâ güvenliği hareketinin kültürünün ve entelektüel köklerinin kıyametçi bir alt kültürden ayrı düşünülemeyeceğini ve bunun, hareketin en etkili isimlerinin politika belirlemesini engellemesi gerektiğini savunuyor. Metin bir haber değil yorum: belgelenmiş tarihi ve kamuya açık olayları, adı geçen kişiler hakkında ciddi ve kanıtlanmamış kişisel iddialarla birleştiriyor.

Kökenler: rasyonalizm, hayran kurgusu ve kıyamet inancı

Yazar hareketi Eliezer Yudkowsky'ye ve onun yazıları etrafında oluşan "rasyonalite topluluğu"na bağlıyor. Yazıya göre Yudkowsky politikacılara yapay zekâ politikası konusunda danışmanlık yaptı, Netflix belgeseli The AI Doc'ta yer aldı, Shane Legg ile Demis Hassabis'i DeepMind kurulmadan önce Peter Thiel ile tanıştırdı ve "AI alignment" terimini popülerleştiren de onun kâr amacı gütmeyen kuruluşu oldu. Argümanda "Harry Potter ve Rasyonalite Yöntemleri" adlı hayran kurgusunun yanı sıra topluluğun temel senaryosu öne çıkıyor: yeterince yetenekli bir sistem kendini geliştirir, insan denetiminden çıkar ve herkesi öldürür — sözde "ataç" kıyameti. Yazı, alanın büyük bölümünde "güvenlik" ve "hizalama" ile kastedilenin örtük olarak bu çerçeve olduğunu ve bunun ampirik bir görüş değil, kıyametçi bir inanç gibi işlediğini ileri sürüyor.

Berkeley, Lighthaven ve kült iddiası

Yazının büyük kısmı topluluğun Kaliforniya'nın Berkeley kentindeki fiziksel örgütlenmesine — sakinleri poliamorik olan, aynı etkinliklere katılan ve çoğu yapay zekâ şirketleriyle kâr amacı gütmeyen kuruluşlarda çalışan ortak evlere — ve en bilinen mekânı Lighthaven'a ayrılmış: yazarın söylediğine göre 2022 sonunda bir rasyonalist hayır kurumu tarafından FTX'ten alınan parayla satın alınan eski Rose Garden Inn. Yazı, orada düzenlenen SlutCon adlı etkinliği anıyor, ücretli seks etkinliklerinin Yudkowsky'nin partneri tarafından organize edildiğini söylüyor ve bunların Lighthaven'da gerçekleşip gerçekleşmediğini bilmediğini kabul ediyor. Konuyla ilgili kendi haberini New York Post'un 16 Eylül'de yayımladığını da not ediyor. Yazar, cinsel içeriği meselenin kolay kısmı, örgütlü inkârı ise zor kısmı saydığını açıkça belirtiyor.

Politika argümanı

Yazının asıl iddiası özel davranışlardan çok etkiye ilişkin. Her yapay zekâ düzenlemesini araştırmayı durdurma, duraklatma ya da yavaşlatma diliyle çerçeveleyen bir hareketin, dünyanın sonunu bekleyen bir dünya görüşüyle şekillendiğini ve bu çerçevenin artık sektörün tepesine ulaştığını savunuyor: yazı, birkaç büyük yapay zekâ şirketi yöneticisinin araştırmanın "tempo" ile ilerlemesi için antitröst yasalarının askıya alınması yönündeki son çağrılarına işaret ediyor. Yazar bunu, tıbbi araştırmayı durdurmak için rekabet kurallarının askıya alınmasını isteyen ilaç şirketlerine benzetiyor ve arkasındaki kişileri kendi ifadesiyle insanlığın düşmanları olarak adlandırıyor.