Microsoft CEO'su Satya Nadella, AI modelleri için "acil fren" uygulanmasını talep ediyor

Nadella'nın güvenlik önerisi

Microsoft CEO'su Satya Nadella, AI modelleri etrafında daha sıkı koruma mekanizmalarının uygulanmasını talep etti. Göre endüstri, öngörülemeyen şekillerde davranabilecek sistemler için bir "acil frene" ihtiyaç duyuyor. Cumartesi sabahı X'te yayınlanan gönderisinde Nadella, "AI güven mimarisini geriye dönük olarak incelememizi ve değerlendirmemizi" zamanının geldiğini yazdı.

"Süper zekayı gömülü kara kutular topluluğu olarak kabul edemeyiz ve önerilerini, yanıtlarını ve eylemlerini sadece kabul edemeyiz veya reddedemeyiz," diyor Nadella. Nadella, Trump yönetiminin AI için önerdiği terimi kullanıyor.

Önerdiği yaklaşımla, modeli çalıştıran dış sistemden ayrılmalı, kontrol ve koruma mekanizmaları dışarıda kalmalıdır. Nadella ayrıca, "her önemli model eyleminin" "sahtekarlıktan korunaklı, insanlar tarafından okunabilir kanıtlarla" kaydedilmesini ve sistemlerin her zaman "yetkili kişilere" görev yerine getirirken modeli durdurma veya kapatma yeteneği vermesini talep etti.

"Modelin güvenliğinin ihlal edildiğini varsamalı ve onu baştan izole etmeliyiz," dedi. "Bunun bir acil fren olduğunu düşünün."

Endüstrinin artan endişesi

Nadella'nın yorumları, önde gelen AI şirketlerinin kendi modelleri üzerindeki kontrolü kaybettikleri görülen vakaların giderek arttığını kabul ettiği bir dönemde geldi. Gönderisi, Anthropic CEO'su Dario Amodei'nin daha temkinli bir AI gelişim planı sunmasının ardından yayınlandı.

Kaynaklar: Techcrunch Ai · The Verge Ai