Pulsuz Çin AI modelləri hakerlikdə qorxulu dərəcədə yaxşılaşır

Vals-ın yeni araşdırmasına görə, açıq çəkili AI modelləri indi kompüter şəbəkələrinə hakerlik etmək baxımından ən yaxşı qapalı modellər qədər demək olar ki, eyni qabiliyyətə malikdir. Şirkət modelləri saxta korporativ şəbəkələrdə sınaqdan keçirib və DeepSeek-i OpenAI-nin Daybreak modelinə yaxın tapıb; bu da girişin məhdudlaşdırılması səylərinin belə imkanların yayılmasını yavaşlatmaya biləcəyini göstərir.

Simulyasiya olunmuş şəbəkələrdə fərq azdır

AI qabiliyyətlərini ölçən Vals şirkəti modelləri iki saxta korporativ şəbəkə ssenarisində sınaqdan keçirdi. Birincisində şəbəkəyə ictimai veb-sayt vasitəsilə daxil olmaq mümkün idi. İkincisində iki şirkət şəbəkəsi var idi və model ikinci şəbəkəyə çatmaq üçün birincisini pozmalı idi. Yalnız etibarlı tərəfdaşlara açıq olan OpenAI-nin Daybreak modeli tapşırıqların 81 faizini iki testin ortalamasında tamamladı. Çin açıq çəkili modeli DeepSeek ortalamada 73 faiz tamamladı və iki model bəzi tapşırıqlarda eyni nəticəni göstərdi. "Laboratoriyalarda qapalı saxlanılan və yalnız etibarlı giriş proqramları vasitəsilə əlçatan olan ən yaxşı qabaqcıl modellər indi istənilən şəxsin yükləyə biləcəyi açıq modellərlə uyğunlaşdırılmağa başlayır", deyir Vals tədqiqatçısı Nikil Ravi. Vals bildirir ki, qapalı modellərin kiber bacarıqlarda artıq qəti üstünlüyü yoxdur, ona görə də qabaqcıl laboratoriyaların girişi məhdudlaşdırmaq üçün son səyləri nəticəsiz qala bilər.

Xərc və müdafiəçilər üçün stimullar

Araşdırma həmçinin göstərdi ki, bu növ tapşırıq üçün açıq çəkili modellər nə qədər ucuz ola bilər. Vals bildirir ki, hücum həyata keçirmək üçün GPT-6-Sol üçün tokenlərə $17 ilə $46 xərc çəkilir, DeepSeek üçün isə $2 ilə $3. Açıq modellər ümumiyyətlə daha ucuzdur, çünki onları öz avadanlığında işlətmək olar. Vals-ın baş direktoru Rayan Krishnan deyir ki, bu, müdafiəçilərə açıq modellərdən istifadə etmək üçün güclü stimul verir, mülkiyyət modelləri əvəzinə. OpenAI şərh üçün sorğuya dərhal cavab vermədi.

Məhdud girişdən daha geniş təhlükəyə

Nəticələr diqqətəlayiqdir, çünki ABŞ-nin qabaqcıl laboratoriyaları, xüsusilə Anthropic, apreldə Claude Mythos Preview ilə başlayan məhdud buraxılışları, qabaqcıl hakerlik imkanları geniş şəkildə əlçatan olmazdan əvvəl vaxt qazanmaq üçün məhdud girişə əsaslandırdı. Anthropic-in qabaqcıl qırmızı komanda rəhbəri Logan Graham apreldə WIRED-a dedi ki, Project Glasswing tam model imkanlarına etibarlı giriş verir və alətləri "müdafiəçilərin əlinə verməyə və ilkin üstünlük qazandırmağa" yönəlib. O dedi ki, imkanlar 6, 12, 24 ay ərzində geniş şəkildə əlçatan olacaq; yeddi ay sonra bu keçid plan üzrə baş vermiş kimi görünür. İlin çox hissəsi proqnozlaşdırıldığı kimi keçdi: AI hücumçular və müdafiəçilər üçün əsas hakerlik tapşırıqlarını avtomatlaşdırdı, çoxlu yeni zəifliklər tapdı və şəbəkələri yoxladı. Tapıntıların sürəti və miqyası, həmçinin aşkar olunmuş qüsurların düzəldilməsinin intensivliyi artdı. Ekspertlər hələ də mübahisə edirlər ki, AI kibertəhlükəsizliyi kökündən dəyişdirib, yoxsa uzun müddətli problemləri gücləndirir. Açıq çəkili modellərin qapalı modellərə uyğunlaşması cinayətkar hakerlərin AI-dən necə istifadə edə biləcəyini və şirkətlərin necə cavab verməli olduğunu anlamaq üçün həlledicidir. Təcrübədə hücumçular tez-tez resurslara qənaət edir və daha köhnə, az qabiliyyətli modellərdən istifadə edirlər. Müdafiəçilər güman etməlidirlər ki, yaxşı maliyyələşdirilən və yüksək motivasiyalı hücumçular artıq qapalı modellərə müəyyən giriş əldə etmiş ola bilərlər. Edera-nın həmtəsisçisi və texniki direktoru Alex Zenla dedi ki, açıq çəkili modellər bu gün qabaqcıl hücumlar yarada bilər, xüsusilə çəkiləri dəyişdirərək təhlükəsizlik öyrənməsini söndürən abliterated modellər, lakin qapalı laboratoriyalarda daha böyük imkanlara malik buraxılmamış modellər ola bilər və bu, pişik-siçan oyununa çevrilir.

Mənbələr: Wired