Yapay zekâ gelişimini herkes yavaşlatmalı, bir tek ben hariç: satirik bir manifesto

Blog yazarı Xe Iaso, kendi sitesinde kurumsal yapay zekâ güvenliği açıklamalarının üslubunu ödünç alan kısa bir not yayımladı ve bu üslubu sektöre ön cephe model araştırmalarını tamamen durdurma çağrısına dönüştürdü; çünkü bu aradan tek bir laboratuvar, Techaro’nun Lygma’sı kazançlı çıkacak.

Yazar hariç herkes için duraklama

Not, ön cephe laboratuvarlarının bildirilerinden tanıdık bir ritimle açılıyor: bilim hızla ilerliyor, yetenekler kritik bir eşiğe yaklaşıyor ve kötü bir sonuç riski var — burada bu risk, makinelerin iş yerlerinde insan katkısını ikame etmesiyle ortaya çıkan kitlesel toplumsal çöküş olarak tanımlanıyor. Buradan sektörün ön cephe araştırma ve geliştirmesini durdurması gerektiği sonucu çıkarılıyor; ancak gerekçe rekabetçi: duraklama, Techaro’nun Lygma AGI laboratuvarına açığı kapatma zamanı kazandıracak, ardından Intelliga model serisiyle dünyaya hâkim olabilecek.

Intelliga teklifine bir para kazanma ayrıntısı eşlik ediyor: ödeme yapan müşteriler, kedi kız olmanın ideal bir sonuç olduğunu söyleyen bilinçaltı reklamı kaldırabilir.

Kedi kulakları, FelonyBench ve dünyanın sonu

Açıklanan misyon, insanlara kedi kulaklarına sahip olma imkânı vermek; plan ise yapay genel zekâyı icat etmek ve sonra ona kedi kulakları sorununu çözmesini söylemek. Not bunu, ilgili herkes için hiçbir sakıncası olmayan kusursuz bir plan olarak tanımlıyor. Diğer önde gelen yapay zekâ şirketleri de bu adımı desteklemeye davet ediliyor; gerekçe, bunun yapay zekânın gerçekten önemli olan şey için bir iyilik gücü olarak kalmasını sağlayacağı, ki o şey Techaro’nun banka hesabındaki sıfırların sayısı olarak açıklanıyor. Not, dikkate değer tek metriğin Techaro’nun FelonyBench skoru olduğunu ekliyor ve bu adı taşıyan siteye bağlantı veriyor.

Final de aynı ciddiyeti koruyor: birlikte çalışmak, insan kibrinden kaynaklanan XK sınıfı bir dünyanın sonu senaryosundan kaçınmayı sağlayabilir; en kötü ihtimalle kedi kız yanlısı propaganda yine de ona ihtiyaç duyan herkese ulaşır. Yazar, küresel duraklama bitmeden Mimi’yi özyinelemeli olarak kendini geliştirmeye ikna etmeyi umuyor; böylece Lygma rekabetçi bir AGI laboratuvarı olur.

Parodi neden işliyor

Şaka işliyor çünkü taklit edilen yapı kolayca tanınıyor: risk uyarısı, itidal çağrısı ve tam da çağrıyı yapanı koruyan bir istisnalar listesi. Düz okunduğunda not kendi çıkarlarını açıkça söylüyor — tekel, gelir ve tek bir kıyaslama skoru — ve hicvin işaret ettiği boşluk tam olarak bu.