Biyolojik silah, AI olmadan da en büyük tehdittir, diyor Annie Jacobsen

WIRED, Mother Jones'un röportajını yayımladı; gazeteci Michael Mechanic, araştırmacı gazeteci Annie Jacobsen ile yeni kitabı “Biological War: A Scenario” üzerine konuşuyor. Kitap temmuz sonunda çıktı. Söyleşinin ana fikri, biyolojik silah tehdidinin AI'dan çok daha önce var olduğu ve ondan bağımsız olarak da gerçek olduğudur.

Bu konuya yeni bağlam, Anthropic'in Eylül başında yayımladığı kötüye kullanım raporuyla eklendi. Rapor, yabancı bilim insanlarının Claude'un kısıtlamalarını sözde “gain of function” araştırmalarında aşmaya çalıştığı beş vakayı anlatıyor. Anthropic yanıt vermedi ve hesapları engelledi, ancak kullanıcı motivasyonlarının zararlı olmayabileceğini belirtti. Terim, bir patojenin genomunun hedefli değiştirilmesini ifade eder.

Biyolojik silah neden en büyük tehdittir

Jacobsen, ABD Savunma Bakanlığı'nın kitle imha silahları tehdit yelpazesini anlatan belgesinde nükleer silahların en tehlikeli olarak belirtildiğini, biyolojik silahların ise onu yakından izlediğini söylüyor. Ona göre biyolojik silahlar ortak tehditler arasında en ağırıdır, çünkü erişim bariyeri son derece düşüktür ve kullanılma olasılığı da daha yüksektir.

Nükleer silahlar için silah kalitesinde fisil madde ve depolama altyapısı gerekir: kıtalararası balistik füze, bombardıman uçağı veya nükleer denizaltı. Yani bir devlet gerekir. Biyolojik ajanlara ise neredeyse herkes erişebilir. Dünyada 3600 BSL-3 ve BSL-4 laboratuvarı vardır, terör örgütlerinin sayısı çok daha azdır; bu nedenle kaza olasılığı istatistiksel olarak çok daha yüksektir.

Bu yüzden senaryosu kasıtlı bir saldırıyla değil, laboratuvar sızıntısıyla başlıyor. Kitapta, kendini Marburg virüsüyle enfekte eden ve hemorajik ateşten ölen Sovyet bilim insanı Nikolai Ustinov'un vakası anlatılıyor.

AI yalnızca bir parçadır

Jacobsen kitapta AI'yı bilinçli olarak ele almadı, çünkü okuyucu bir laboratuvarda patojeni AI olmadan da değiştirmenin ve neredeyse tam yok oluşa yol açan pandemi başlatmanın ne kadar kolay olduğunu görmeliydi. Yine de AI ile güçlenen biyotehditleri ele almayı faydalı buldu: Fort Detrick BSL-4 laboratuvarı direktörü Nicholas Bergman ona, kitap çıktıktan sonra çalışanların sürekli bunun gerçekten mümkün olup olmadığını sorduğunu söyledi.

Kitabın teşekkür kısmında Jacobsen, biyogüvenlik uzmanı David Relman'ın kendisine açıkladığı “mirror life” kavramını anıyor: teorik olarak bu teknoloji insanlığın tamamen yok olmasına yol açabilir.

Korunmaya dair sorular

Jacobsen'a göre biyolojik savaştan korunma, nükleer cephanelik kontrolünün öngördüğü ölçekte neredeyse imkânsızdır. Röportajda CIA ve diğer istihbarat servislerinin kontrproliferasyon operasyonları yürüttüğü ve teröristlerin elindeki biyolojik programların durdurulduğu, ancak kaza riskinin kasıtlı saldırıdan yine de yüksek olduğu belirtiliyor. ABD Dışişleri Bakanlığı'na göre Rusya ve Kuzey Kore'nin yasa dışı biyolojik silah programları, Çin ve İran'ın ise şüpheli programları var.