OpenAI, Astra geliştirmesini 'kritik' siber yetenek riski nedeniyle yavaşlattı
OpenAI, Axios'a yaklaşan Astra modelinde 'kritik' siber yetenekleri göz ardı edemediğini söyledi — Preparedness Framework'ün en ciddi seviyesi; iç çalışmalar duraklatıldı.
Ne oldu
OpenAI, Axios'a yaklaşan modeli Astra'da "kritik siber yetenekleri göz ardı edemeyeceğini" söyledi. Şirkete göre iç değerlendirmeler ajan tabanlı kodlamada ve siber güvenlikte büyük ilerleme gösterdi; bu, 2023'te yayımlanan Preparedness Framework'ün en ciddi seviyesi.
Şirket test ve güvenlik çalışmalarını artırıyor, Astra'nın geliştirmesini yavaşlatıyor ve daha sıkı gereklilikleri karşılamayan iç çalışmaları duraklatıyor. Çerçeve, sürümden önce de koruma önlemleri şart koşuyor.
Daha sıkı kontroller, geciken sürüm
Habere göre OpenAI izole test ortamları, ajan uygulamalarında evrensel izleme, ağ ve araç erişiminde kısıtlama ve model ağırlıklarının şifrelenmesini devreye alıyor. Olası sürüm tarihi daha da gecikebilir.
Bir Beyaz Saray yetkilisi, "OpenAI sürümü erteleme planlarını yönetime gönüllü olarak bildirdi" dedi.
Neden önemli
Saldırı amaçlı siber yetenek artık öncü laboratuvarlar için birinci sınıf bir güvenlik kategorisi; hız, güvenlik uğruna feda ediliyor. İşletmeler en yetenekli modellerde daha fazla takvim belirsizliği ve ajan iş akışlarında daha fazla güvenlik kapısı beklemeli.