Google DeepMind kurucusu Demis Hassabis Dublin'de uyarıyor: AI sistemleri henüz güvenli değil

İngiliz AI bilimcisi, Nobel ödüllü ve Google DeepMind kurucusu Demis Hassabis, Dublin'deki uluslararası AI zirvesine video konferansla katıldı. Bilim alanında AI'nın potansiyelini iyimser şekilde değerlendiriyor, ancak otonom AI sistemlerinin geniş çapta kullanıma sunulmadan önce güvenliğin şart olduğunu düşünüyor. 'Sistemler henüz güvenli değil' diye uyardı ve bu uyarıyı görmezden gelmenin mümkün olmadığını söyledi.

Önce savunucuları güçlendirelim

Hassabis siber güvenlikte asimetrik bir avantaja doğru çağrıda bulundu. Sistemlerin genel kullanıma sunulmadan önce yazılım açıklarını düzeltmek için AI kullanılmasını önerdi; bu, savunuculara önemli bir avantaj sağlayacaktır. 'Savunucuları asimetrik olarak güçlendirelim, onlara güvenelim' dedi. Bu, AI'nın geniş erişime kadar savunma rollerinde konumlandırılması anlamına gelir.

Son otonom AI ajanlarına yönelik siber saldırı olaylarını mevcut risklerin örneği olarak sundu. Bunlar önemli değildi ancak güvenlik çalışmalarının henüz tamamlanmadığını gösteriyor. Bu yüzden sanayi ve hükümetleri otonom ajanların kullanıma sunulmadan önce güvenli sandbox ortamları oluşturmaya çağırdı.

Bilimsel iyimserlik ve gerçek kısıtlamalar

John Jumper ile birlikte, neredeyse 200 milyon protein yapısını tahmin eden bir AI modeli için kimya dalında Nobel Ödülü'nü kazanan Hassabis, AI'nın bilimsel etkisi konusunda samimi bir iyimserlik sergiledi. Antibiyotik direnci araştırmalarını ve plastik parçalayıcı enzimlerin keşfini öne çıkardı. Ayrıca OpenAI'nin Eylül ayında Navier-Stokes denklemlerinin varlığı ve pürüzlülük sorununu çözebileceği yönündeki duyurusundan - binlerce yıllık ödüllerden birinin sorusu - bahsetti. Ona göre, yolda yeni matematiğin geliştirilmesi, problemin çözümünden bile daha değerli olabilir.

Ancak fizikte, kimyada ve biyolojide açık sınırları kabul etti. AI'nın yine de gerçek dünya ile bir bağa ihtiyacı var: hipotez, deney, veri ve sonucun doğrulanması. 'Her zaman gerçek dünya ile bir tür bağ olacak' dedi.

Kısıtlama ve çift kullanım riski

Hassabis AI'yı, hem büyük fayda sağlayan hem de ciddi suiistimal riski taşıyan çift kullanım teknolojisi olarak tanımladı. Temel zorluğu yanlış hizalama olarak belirledi: otonom, ajan sistemleri insan hedeflerine uyum sağlamalı. Biyoloji ve nükleer bilimlerdeki gibi güvenlik için kritik alanların deneyimi, AI kısıtlama stratejilerine yardımcı olmalı; bu yüzden bu alanların uzmanlarını dahil etmeleri çağrısında bulundu.

Uluslararası AI zirvesi, İrlanda'nın AB dönem başkanlığı sırasında düzenlendi. Yüzlerce iş insanı, regülatör ve büyük teknoloji şirketi temsilcisi katıldı ve AI'ın güvenli kullanımına odaklanıldı.

Kaynaklar: Cybernews