Anthropic'in ilk yatırımcılarından Jaan Tallinn: Yapay zekâ insanlığı yok edebilir

The Wall Street Journal, Estonyalı programcı ve Skype kurucu ortaklarından Jaan Tallinn'in profilini yayımladı. Kate Clark imzalı 25 Eylül tarihli habere göre Tallinn, geçtiğimiz haftayı New York'ta Birleşmiş Milletler Genel Kurulu'nda geçirdi ve girişimcilere, yatırımcılara ve politika yapıcılara yapay zekânın insanlığı yok edebileceğini anlattı.

Tallinn on yılı aşkın süredir yapay zekâ güvenliğini savunuyor. Konu, Anthropic araştırmacısı Jacob Coxon'un istifa ederek yapay zekânın kontrolden çıkabileceği uyarısını yapmasıyla son haftalarda yeniden gündeme geldi. Tallinn yaptığı açıklamada, "Maalesef bu tehdidi yeterince ciddiye almadığımızı ve insanlığı yok edebilecek bir teknolojiyi inşa etmek için yarıştığımızı düşünüyorum" dedi.

Anthropic'e yapılan bahis

2021'de Dario Amodei ve diğer araştırmacıların, kısmen güvenlik kaygılarıyla OpenAI'dan ayrılıp Anthropic'i kurmasından kısa süre sonra Tallinn, 124 milyon dolarlık Series A turuna liderlik etmeyi kabul etti. Tura Facebook kurucu ortaklarından Dustin Moskovitz, Jane Street'ten James McClave, Center for Emerging Risk Research ve Google'ın eski CEO'su Eric Schmidt de katıldı. Gazetenin aktardığı PitchBook verilerine göre tur, girişimi 461 milyon dolar değerinde fiyatladı.

Geleneksel risk sermayesi fonları turda neredeyse yoktu; girişim sermayesi dünyasının büyük bölümü Anthropic'i OpenAI'nin Goliath'ına karşı Davut olarak gördü. Tallinn, tehlikeli teknolojinin üretildiği yerde görüşlerinin duyulması umuduyla yatırım yaptığını söyledi.

On yıllık uyarılar

54 yaşındaki Tallinn Estonya'da doğdu ve Demir Perde'nin arkasında büyüdü; annesi ile babası bir mimar ve bir film yönetmeniydi. Teorik fizik diplomasının ardından dosya paylaşım servisi Kazaa'nın, ardından Microsoft'un 8,5 milyar dolara satın aldığı Skype'ın kurulmasında görev aldı. 2008'de yapay zekâ araştırmacısı Eliezer Yudkowsky'nin çalışmaları onu teknolojinin felakete yol açabilecek potansiyeline ikna etti.

Bugün tahmini 12 milyar dolarlık servetiyle Estonya'nın en zengin kişisi olarak gösteriliyor. Yayımladığı bağış listesine göre yapay zekâ güvenliği girişimlerine yaklaşık 170 milyon dolar aktardı. Cambridge Centre for the Study of Existential Risk ve Future of Life Institute'ün kurucuları arasında yer alıyor.

2011'de Dario Amodei ile yaptığı bir telefon görüşmesinde, adıyla anılan tahminde bulundu. Bir transkripte göre Tallinn, "AGI kaynaklı bir felakette ölme olasılığımızı iki haneli sayılarda görüyorum" dedi. "Bana öyle geliyor ki bir bombayı etkisiz hale getirmeye çalışıyoruz."

Bundan sonrası

Piyasanın beklediği halka arz gerçekleşirse Tallinn'in payı hızla büyüyecek. Tallinn'in yatırım şirketi Metaplanet'in yönetici ortağı Rauno Miljand, gazeteye firmanın halka arzdan gelecek ve 2 trilyon doları aşabilecek geliri insanlığın yararına nasıl kullanacağını hesaplamaya çalıştığını söyledi. "Anthropic başarısız olup sıfıra inerse bu iyi bir şey olur, çünkü o zaman muhtemelen ASI'ye ulaşmadık ve insanlık kendine ek yıllar kazandırdı" dedi. "Bir nevi kazan-kazan durumu."