
OpenAI GPT-6.2 modellərindən məntiq çıxarılmasına qarşı təhlükəsizlik tədbirlərini gücləndirir
OpenAI bildirir ki, əvvəlki sorğulardan qorunan məntiqi çıxaran hücumlar GPT-6 Astra-da 54.0 faizdən GPT-6.2 Astra-da 0.2 faizə düşüb, aktiv sorğulara hücumlar isə 22.9 faizdən 0.9 faizə enib.
OpenAI GPT-6.2 Astra və GPT-6.2 Sol modellərindən daxili məntiqin çıxarılmasına qarşı təhlükəsizlik tədbirlərini kəskin şəkildə gücləndirib. Daxili avtomatlaşdırılmış testlərdə əvvəlki sorğulardan qorunan məntiqi çıxaran hücumların uğur dərəcəsi GPT-6 Astra-da 54.0 faizdən GPT-6.2 Astra-da 0.2 faizə düşüb, aktiv sorğulara hücumlar isə 22.9 faizdən 0.9 faizə enib. Şirkət indi seçilmiş təkmilləşdirmələri GPT-6 Astra-ya da gətirir.
Testlərdə nə dəyişdi
Bildirilən hücum uğur dərəcələri altı hücumçu model üzrə birləşdirilmiş adaptiv black-box red-teaming nəticələrindən gəlir. Əvvəlki sorğu çıxarılması üçün dərəcə 54.0 faizdən 0.2 faizə düşüb. Aktiv sorğu çıxarılması üçün isə 22.9 faizdən 0.9 faizə enib. Burada aşağı göstərici daha yaxşıdır.
Müdafiələr necə işləyir
Fərdi sorğular üçün sistemlər hədəflənmiş öyrətməni, mesajlar və alət çağırışları üçün giriş və çıxış filtrlərini, həmçinin köhnə modellərin qorunan məntiqi oxumasını dayandıran API bloklarını birləşdirir. Koordinasiyalı kampaniyalara qarşı OpenAI həftəlik minlərlədən on minlərləyə qədər hesabları bloklayır.
Sənaye konteksti
Anthropic də sistemli distillasiya hücumlarına qarşı mübarizə aparır və daxili məntiqin oğurlanmasının qarşısını almaq üçün on minlərlə hesab bloklayır və halların 90-99 faizində uğur qazandığı iddia olunur. Anthropic həmçinin sənayedən və siyasətçilərdən koordinasiyalı cavab çağırışı edib. 23 fevral 2026-cı il tarixli əvvəlki xəbərdə bildirilirdi ki, Anthropic Deepseek, Moonshot və MiniMax-ı 16 milyon sorğu ilə Claude-un AI məlumatlarını oğurlamaqda ittiham edir.
Mənbələr: The Decoder
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.