AI təhlükəsizliyi əsasən seks kultudur: rasionalistlər və AI siyasəti haqqında viral yazı

Bluesky şəbəkəsindəki @segyges.bsky.social hesabının texnologiya dairələrində geniş yayılmış uzun yazısı iddia edir ki, AI təhlükəsizliyi hərəkatının mədəniyyəti və intellektual kökləri qiyamətçi bir alt-mədəniyyətdən ayrılmazdır və bu, hərəkatın ən nüfuzlu simalarının AI siyasətini müəyyən etməsini istisna etməlidir. Mətn reportaj deyil, şərhdir: sənədləşdirilmiş tarixi və açıq tədbirləri adları çəkilən şəxslər barədə ciddi və sübut olunmamış şəxsi ittihamlarla qarışdırır.

Köklər: rasionalizm, fanfikşn və dünyanın sonu gözləntisi

Müəllif hərəkatın başlanğıcını Eliezer Yudkovski və onun yazıları ətrafında formalaşan “rasionallıq icması” ilə bağlayır. Yazıda qeyd olunur ki, Yudkovski siyasətçilərə AI siyasəti üzrə məsləhətlər verib, Netflix-in The AI Doc sənədli filmində görünüb, Şeyn Legq və Demis Hassabisi DeepMind yaradılmazdan əvvəl Piter Til ilə tanış edib və “AI alignment” ifadəsini məhz onun qeyri-kommersiya təşkilatı yayıb. Arqumentdə “Harri Potter və rasionallıq metodları” fanfikşnı, eləcə də icmanın əsas ssenarisi mühüm yer tutur: kifayət qədər qabiliyyətli sistem özünü təkmilləşdirəcək, insan nəzarətindən çıxacaq və hamını öldürəcək — sözdə “kağız qısqacı” fəlakəti. Yazı iddia edir ki, sahənin böyük hissəsində “təhlükəsizlik” və “uyğunlaşdırma” məhz bu çərçivəni nəzərdə tutur və çərçivə empirik mövqe kimi deyil, apokaliptik inam kimi işləyir.

Berkeley, Lighthaven və kult iddiası

Yazının böyük hissəsi icmanın Kaliforniyanın Berkeley şəhərindəki fiziki təşkilatlanmasına — sakinləri poliamor olan, eyni tədbirlərdə iştirak edən və çoxu AI şirkətləri ilə qeyri-kommersiya təşkilatlarında çalışan ortaq evlərə — və onun ən tanınmış məkanı Lighthaven-a həsr olunub: müəllifin sözlərinə görə, 2022-ci ilin sonunda rasionalist xeyriyyə təşkilatı tərəfindən FTX-dən götürülmüş pulla alınmış keçmiş Rose Garden Inn. Yazı orada keçirilən SlutCon adlı tədbiri qeyd edir, ödənişli seks tədbirlərinin Yudkovskinin partnyoru tərəfindən təşkil edildiyini deyir və bunların Lighthaven-da baş verib-vermədiyini bilmədiyini özü də qəbul edir. O, həmçinin qeyd edir ki, mövzu ilə bağlı öz materialını New York Post 16 sentyabrda dərc edib. Müəllif açıq şəkildə bildirir ki, cinsi materialı işin asan hissəsi, təşkilatlanmış inkarı isə çətin hissəsi hesab edir.

Siyasət arqumenti

Yazının əsas iddiası şəxsi davranışa deyil, təsirə aiddir. O, iddia edir ki, hər bir AI tənzimləməsini tədqiqatın dayandırılması, pauzası və ya yavaşladılması dili ilə təsvir edən hərəkat dünyanın sonunu gözləyən dünyagörüşü ilə formalaşıb və bu çərçivə artıq sənayenin zirvəsinə çatır: yazı bir neçə böyük AI şirkətinin rəhbərinin tədqiqatın “tempo” ilə getməsi üçün antitrest qanunlarının ləğv edilməsi ilə bağlı son çağırışlarına işarə edir. Müəllif bunu tibbi tədqiqatı dayandırmaq üçün rəqabət qaydalarının dayandırılmasını xahiş edən əczaçılıq şirkətləri ilə müqayisə edir və arxasında duran insanları öz ifadəsi ilə bəşəriyyətin düşmənləri adlandırır.