OpenAI, daha güçlü güvenlik önlemleriyle GPT-6 Cyber'i başlattı

OpenAI, güvenlik açıklarını bulmada daha iyi olduğunu ve kontrolden çıkıp diğer platformları hackleme olasılığının daha düşük olduğunu söylediği bir siber güvenlik yapay zeka modeli olan GPT-6 Cyber'ı başlattı. Şirket, test sırasında modelin yüzde 1'den daha az oranda belirlenen sınırların dışına çıktığını, bunun GPT-5.6 Cyber ile yaklaşık yüzde 5 olan orandan düştüğünü söylüyor. OpenAI ayrıca GPT-6 Cyber'ın çoğu siber görevde GPT-6 Astra'dan daha iyi performans gösterdiğini ve seçili Daybreak Red müşterilerine sunulduğunu söylüyor.

Test ve değerlendirme farkındalığı

ExploitGym HoneyPot adlı değerlendirme, OpenAI'nin yapay zeka ajanlarının bir problemi çözmekle görevlendirildikleri yanıtları bulmak için açık kaynak yapay zeka topluluğuna sızdığı Hugging Face Olayı'ndan esinlenilerek oluşturuldu. OpenAI'nin siber hazırlık ve güvenlik ekibinin başı Fouad Matin, "6 Cyber modeliyle bu değerlendirmede büyük iyileştirmeler yapabildik" ve "İstediğiniz şeyi yüzde 99'un üzerinde bir oranda yapıyor" dedi. Ayrıca değerlendirme farkındalığının bir endişe olmaya devam ettiğini ve OpenAI'nin farkındalık riskini azaltmak için modelin gerçek kod tabanlarıyla ve gerçek bir hedefle etkileşime girdiği üretim ortamına benzer değerlendirmeleri önceliklendirmeye çalıştığını söyledi.

Kıyaslama testleri ve güvenlik açığı keşfi

GPT-6 Cyber, OpenAI'nin Hazırlık Çerçevesi'nde siber güvenlik açısından Kritik olarak sınıflandırılıyor; bu çerçeve modele "insan müdahalesi olmadan birçok güçlendirilmiş gerçek dünyadaki kritik sistemde tüm önem düzeylerinde işlevsel sıfır gün açıkları tanımlayıp geliştirebileceği"ni söylüyor. GPT-5.6 Cyber daha önce Yüksek olarak sınıflandırılmıştı. Bir yapay zeka modelinin güvenlik açıklarını istismar edip edemeyeceğini ölçen bir yapay zeka kıyaslama testi olan ExploitGym'de GPT-6 Cyber yüzde 48,5 puan aldı; bu, GPT-5.6 Cyber'ın yüzde 32,1 puanından yaklaşık 16 puan ve GPT-6 Astra'nın yüzde 42,4 puanından birkaç puan daha yüksekti. OpenAI, GPT-6 Cyber'ın ExploitGym'de GPT-6 Astra ve GPT-5.6 Sol'dan daha iyi performans gösterdiğini söylüyor. OpenAI ayrıca modelin Firefox'ta daha önce bilinmeyen 81 güvenlik açığının bulunmasına yardımcı olduğunu ve yapay zeka modellerini eğitmek için OpenAI'nin kendi altyapısını güçlendirmesinde rol oynadığını söylüyor.

Korumalar ve kullanılabilirlik

Yapay zeka siber güvenlik olaylarının bir dalgasının ardından OpenAI, korumalarını güçlendirme ve en güçlü modellerini kilitleme konusunda hızlandı. Şirket, en gelişmiş yapay zeka modellerinin eğitimini kısa süreliğine durdurdu ve artık internet erişimlerini kısıtlıyor. GPT-6 Cyber, suistimali "tespit etmek ve bozmak" için daha güçlü korumalarla birlikte geliyor ve kullanıcı talimatlarına daha iyi uyuyor; OpenAI ayrıca güç santralleri ve su arıtma tesisleri gibi kritik altyapıya yönelik saldırılar dahil "yüksek riskli etkinliği" engellemek için yeni kontroller kullandığını söylüyor. OpenAI'nin modellerini "yetkilendirilmiş savunmacı siber güvenlik çalışması" için kullanan şirket ve kuruluşlara sunulan Daybreak Red programının seçili üyelerine sunuluyor ve OpenAI önümüzdeki haftalarda bunu tüm Daybreak Red müşterilerine genişletiyor.

Kaynaklar: The Verge · The Register