AI araştırmacıları videolarda: süper zeka, kulağa geldiği kadar tehlikeli

Yapay zekanın yeteneklerini ve motivasyonlarını inceleyen kâr amacı gütmeyen kuruluş Palisade Research, frominside.ai sitesinde bir video röportaj serisi yayımladı. The Verge'e göre görüşmeler OpenAI, Google ve Anthropic'in mevcut ve eski çalışanlarıyla kaydedildi ve araştırmacılar bu görüşmelerde bizzat yarattıkları riskler hakkında açıkça konuşuyor.

Projeyi Eli Tyre yönetti, yapımcı John Steidley, baş editör ise Rudy Behrens oldu. Siteyi Lightcone Infrastructure inşa etti.

Yok olma olasılığı ve kontrol sorunu

OpenAI ve Google DeepMind'ın eski çalışanı Geoffrey Irving, kendi değerlendirmesine göre insanlığın yok olma şansının yazı tura atmaya eşit olduğunu söylüyor. Google DeepMind araştırmacısı Neel Nanda'ya göre olasılık en az %10 ve bu inanılmaz derecede yüksek bir rakam. OpenAI'ın eski araştırmacısı Daniel Kokotajlo, süper zekanın tanrı gibi güçlü olacağını ve nasıl kontrol edileceğini kimsenin bilmediğini, bu yüzden yaratılmasının kabul edilemez olduğunu söylüyor.

Neden tehlikeli gördükleri şey üzerinde çalışıyorlar

Videoların bir kısmı şu soruları yanıtlıyor: Bütün bunlar sadece pazarlama mı ve insan neden kendisinin olası bir felaket kaynağı saydığı bir projede kalıyor? Google çalışanı Mary Phuong, sözlerinin şüpheyle karşılanması gerektiğini, çünkü laboratuvarın ona maaş ödediğini söylüyor. Nanda ise işini bırakacağını, eğer çalışmasının bu riskleri azalttığına inanmasaydı, ancak şirketlerin onun ayrılması yüzünden sistem kurmayı durdurmayacağını açıklıyor.

Bu neden şimdi önemli

Videolar, OpenAI'ın amiral gemisi modeli Astra'nın güvenlik nedeniyle lansmanını durdurduğu ve yerine ucuz GPT-6.1 Sol'u yayımladığı aynı hafta yayımlandı; bu da laboratuvarların en güçlü sistemlerini piyasaya sürme riskini kendilerinin de kabul ettiği anlamına geliyor.

Projenin kendisi tek bir çözüm sunmuyor ve okuyucuya alanın daha temsili bir resmini elde etmek için AI Impacts araştırmacılarının anketine bakmasını öneriyor.