WSJ: Anthropic veteranları süni intellekt nəzarətdən çıxarsa, uzaq torpaq almağı düşünür

The Wall Street Journal-un sentyabrın 26-da yazdığına görə, Anthropic-in ən uzun müddət işləyən əməkdaşlarından bəziləri ABŞ-ın uzaq bölgələrində torpaq almağı müzakirə edib; süni intellektin inkişafı pisə dönsə, oraya köçə bilərlər.

Nəşrə görə, şirkətin "ən erkən əməkdaşları"ndan bəziləri son həftələrdə sənaye həmkarına belə bir alışı konkret ehtiyat planı kimi dəyərləndirdiklərini deyiblər.

İllərdir müzakirə olunan "Manhetten layihəsi" ssenarisi

Süni intellektdən qaçmaq ideyası bu dairələr üçün yeni deyil. Keçmiş əməkdaşlar xatırlayır ki, Anthropic-in ilk illərindəki korporativ şam yeməklərində belə "Manhetten layihəsi" tipli ssenari müzakirə olunurdu: onlardan səhraya köçmək və süni intellekti elektromaqnit cəhətdən qorunmuş dövlət obyektində qurmağa davam etmək xahiş oluna bilər.

İllər boyu eyni dairələrdə uzaq adalar almaq, yod ehtiyatı yaratmaq və ya səhradakı qorunmuş bunkerlərə köçmək də müzakirə olunub, yazır qəzet.

Efektiv altruizm şəbəkəsində köklər

Nəşr Anthropic və OpenAI-nin ən erkən əməkdaşlarının efektiv altruizm (EA) subkulturası ilə nə qədər sıx bağlı olduğunu izləyir. Onların bəziləri San-Fransisko körfəzi bölgəsindəki, illərlə dünyanın sonu ssenarilərini işləyən "dumer"lər şəbəkəsindən gəlir. 2000-ci illərin ortalarında idarəolunmaz süni intellekt barədə xəbərdarlıq etməyə başlayan Eliezer Yudkovski bu subkulturanın intellektual liderinə çevrildi; süni intellekt təhlükələr siyahısının başına keçməzdən əvvəl qrup asteroid zərbələri və supervulkanlar kimi fəlakət risklərinə diqqət yetirirdi.

Bu fəaliyyətin böyük hissəsi Berklidə Constellation adlı kovorkinq məkanında cəmlənib: süni intellekt təhlükəsizliyi tədqiqatçıları aylıq şam yeməklərində ən son riskləri müzakirə edir, Anthropic əməkdaşlarının isə orada öz ofisləri var. İşçilər qapalı Slack kanalında da qiyamət ssenarilərini müzakirə edir və noutbuklarına şüar yapışdırır: "Hər şey bir daha sakit olmayacaq". Layihələrinin bəziləri EA ilə bağlı şəbəkədən, o cümlədən hazırda 25 illik həbs cəzasını çəkən FTX-in keçmiş rəhbəri Sem Benkman-Friddən kadr və maliyyə cəlb edib.

Niyə vacibdir

Bu ehtiyat planlarını hazırlayanlar qorxduqları texnologiyanı yaradanların arasındadır. Həm OpenAI, həm də Anthropic süni intellekt təhlükələrinin qarşısını almaq prinsipi ilə yaradılıb və təhlükəsizlik icmasının təsiri xüsusilə Anthropic-də güclüdür; qəzet şirkəti 2 trilyon dollarlıq kütləvi təklifin astanasında adlandırır.

Anthropic-in nümayəndəsi bildirib ki, şirkətdə çox müxtəlif baxışlara malik 3500-dən çox əməkdaş çalışır. Nəşr süni intellekt riskləri ilə bağlı ictimai müzakirələrin yeni dalğası fonunda dərc olunub: qəzet qeyd edir ki, bu ay Anthropic tədqiqatçısı Ceykob Koksonun istefası idarəolunmaz süni intellektin insanlığı məhv edə biləcəyi fikrinə diqqət çəkib.