Harvardlı psikolog yapay zeka güvenliğinde kıyamet söylemi yerine sağlam mühendislik istiyor

Harvardlı psikolog Stiven Pinker, yapay zekanın insanlığı yok edeceği fikrini reddetti. Görüşlerini Quillette'de yayımlanan ve psikiyatr ile blog yazarı Scott Alexander'a hitaben yazdığı açık mektupta ortaya koydu. Alexander ona yapay zekanın varoluşsal riskleri üzerine kamuya açık bir tartışma önermişti; Pinker bu teklifi geri çevirdi ve bu tür tartışmaları "seyirlik bir spor" olarak niteledi.

Pinker'ın argümanları

Pinker, bir yapay zekanın daha fazla ataş üretmek için insanlığı hammaddeye dönüştürdüğü ataş maksimize edici gibi kıyamet senaryolarını reddediyor. Ona göre bu senaryolar zekayı hükmetme dürtüsüyle karıştırıyor ve sistemin yan etkileri hiçe sayarak tek bir hedefe saplantılı biçimde bağlanacağını varsayıyor.

Pinker bu argümanları ilk olarak 2018 tarihli Enlightenment Now kitabındaki 31 sayfalık "Existential Risk" bölümünde ortaya koydu. Ona göre kıyamet senaryolarının dört kusuru var: zekayı, her şeyi bilmeye kadar genişletilen bir güç miktarı olarak ele alan yetersiz bir zeka anlayışı; zekayı motivasyonla karıştırma, çünkü insanda kendini koruma ve hükmetme dürtüsü doğal seçilimin ürünüdür ama mühendislik sistemlerine içkin değildir; tek bir hedefe saplantı varsayımı; ve mühendislerin bu sistemlere gezegenin fiziksel altyapısı üzerinde sınırsız ve geri döndürülemez denetim vereceği varsayımı.

Ayrıca 2025'te RAND Corporation tarafından yapılan bir modelleme analizine işaret ediyor. Analiz, bir yapay zekanın insanlığı yok etmek istediğini varsaydığı hâlde şu sonuca varmıştı: "yapay zekanın insanlık için kesin bir yok oluş tehdidi olduğu tarif edilebilir hiçbir senaryo yok".

Kabul ettiği noktalar

Pinker teknolojiyi zararsız saymıyor. Büyük dil modellerinin ne kadar genel amaçlı hâle geleceğini hafife aldığını ve öncü şirketlerin ürünlerini ne kadar hızlı, kimi zaman sorumsuzca piyasaya süreceğini öngörmediğini kabul ediyor. Ona göre bu yarışı, riskler konusunda uyarı yapan topluluğun kendi üyeleri yönetiyor.

Gerçekte ne işe yarıyor

Pinker'ın ciddiye aldığı tehlikeler biyoterörizm, siber sabotaj ve denetimsiz yapay zeka ajanları. Ona göre kıyamet söylemi bunlara çözüm üretmez. İşe yarayan şey ise ölçülü güvenlik değerlendirmesi ve mühendislik pratiği: bağımsız gözetim, kazaların zorunlu soruşturulması, zarar için sorumluluk, döngüde insan ve acil durdurma mekanizmaları.

Ayrıca kıyamet kehanetlerinin ters tepebileceği uyarısında bulunuyor: 1960'ların nükleer korkusu silahsızlanmaya değil, bir silahlanma yarışına yol açtı.

Alexander'ın tutumu

Scott Alexander kendi görüşlerini haziran ayında Astral Codex Ten blogunda açıkladı. Yapay zekanın insanlığı yok etme olasılığını yüzde 20 olarak veriyor; hem daha güçlü güvenlik araştırması hem de yapay zekanın gelişimini yavaşlatacak uluslararası anlaşmalar istiyor.