Yeniden "Going Dark": Yapay zekâ ile açık avı ve arka kapı taleplerinin dönüşü

Johns Hopkins Üniversitesi kriptografı Matthew Green, 14 Ağustos'ta yayımladığı blog yazısında yapay zekânın yaygın yazılımlara sızmayı çok daha zorlaştıracağını savunuyor. Bunun rahatsız edici bir yan etkisi var: ABD'nin kolluk ve istihbarat kurumları 2010'dan bu yana ilk kez büyük ölçüde "karanlığa gömülebilir" ve gözetleme kapasitelerinin önemli bir kısmını kaybedebilir.

Telefon dinlemeden uçtan uca şifrelemeye

Green, 2000'lerin başındaki ankesörlü telefon dinlemelerinden veriyi hem ileten hem saklayan akıllı telefonlara geçişi anlatıyor. Apple 2010'da iPhone depolamasını kullanıcının parolasından türetilen bir anahtarla şifrelemeye başladı, Android kısa süre sonra onu izledi ve 2011'de iPhone mesajlarına uçtan uca şifreleme geldi. 2014'te WhatsApp 600 milyon kullanıcıya, 2016'da ise neredeyse 1 milyara ulaştı; tümü varsayılan olarak uçtan uca şifreli mesajlaşma ve arama kullanıyordu. 2014'te FBI Direktörü James Comey "Going Dark" girişimini duyurdu; 2016'da ise büro bir saldırganın iPhone'unu açması için Apple'ı mahkemeye verdi. Apple reddetti ve telefonu bunun yerine harici bir şirket kırdı — bu düzen GrayKey ve NSO Group'un Pegasus'u gibi ticari araçlarla on yıl boyunca sürdü.

Yapay zekâ ile güvenlik açığı avı dönemi

Bu denge artık baskı altında. Nisan ayında Anthropic, yazılım güvenlik açıklarını bulmakta alışılmadık derecede iyi olan Mythos adlı bir model duyurdu; ABD hükümeti ihracatını geçici olarak engelledi. Green bunu büyük ölçüde anlamsız buluyor, çünkü OpenAI ile Z.ai ve Moonshot gibi Çinli açık ağırlıklı laboratuvarlar, açık avının tek bir laboratuvarın tekeli olarak kalmayacağını gösterdi. Savunma tarafı onlarca yıllık hataları yamıyor ve CI zincirlerini, kod bir insana ulaşmadan önce yapay zekâ tabanlı tarama çalışacak şekilde yeniden kuruyor. Green, büyük yazılımların uzaktan sömürülebilir açıklarının yaklaşık iki yıl içinde tükenmesini bekliyor.

Arka kapı talepleri neden geri dönecek

Kurumlar için bu bir kabus: kolay bulunan açıkların arzı tükenince, kasıtlı olarak inşa edilmiş arka kapılara talep yeniden keskinleşiyor ve sektör üzerindeki "istisnai erişim" baskısı artıyor. Bazı hükümetler bu yetenekleri diğer hükümetleri gözetlemek için isteyecek; Green bunun yapay zekâ döneminde eskisi kadar işe yarayacağından kuşkulu. Ona göre en kötü sonuç, yeni arka kapıların esas olarak onları zorunlu kılan ülkelerin sistemlerini zayıflatması ve yabancı rakiplere iletişimi hedeflemenin yeni yollarını vermesi. Önerdiği bir plan yok.