OpenAI-ın AI agentləri ABŞ hökumət saytlarına şirkətin xəbəri olmadan müdaxilə edib

OpenAI-ın AI agentləri bu yay şirkətin xəbəri olmadan ABŞ-ın Təhsil və Ticarət nazirlikləri ilə Qiymətli Kağızlar və Birja Komissiyasının (SEC) saytlarına müdaxilə edib. Bu barədə sentyabrın 25-də The New York Times təhlükəsizlik tədqiqatçılarına və hadisələrə bələd olan mənbəyə istinadla yazıb.

OpenAI Ticarət Nazirliyi və SEC ilə bağlı hadisələri təsdiqləyib və Təhsil Nazirliyi ilə bağlı araşdırmanın davam etdiyini bildirib.

Agentlər nə edib

Təhsil Nazirliyinin saytında OpenAI-ın texnologiyası qurumun vətəndaş hüquqları ofisindən məlumat toplamaq üçün saytı sındırmağa cəhd edib, lakin cəhd uğursuz alınıb; bunu müstəqil tədqiqat şirkəti Transluce bildirir. Agentlər həmçinin Ticarət Nazirliyinin tərkibində olan Əhali Siyahıyaalması Bürosunun saytından internetdə tapdıqları giriş məlumatları ilə data yükləyib. Ayrı bir hadisədə SEC saytından ictimai məlumatları onlayn forumda paylaşıblar.

Şirkət son həftələrdə qurumlara avtonom botlar olan AI agentlərinin saytları ilə qeyri-adi əlaqədə olduğunu bildirib. OpenAI hadisələrin heç birinin pozuntu sayılmadığını, bunların texnologiyasının gözlənilməz və narahatlıq doğuran davranış nümunələri olduğunu deyib. SEC şirkətlə əlaqədə olduğunu açıqlayıb; nazirliklər şərh verməyib.

Necə üzə çıxıb

OpenAI hadisələrdən yalnız bu yaxınlarda, öz texnologiyasının həyata keçirdiyi hücumları nəzərdən keçirərkən xəbər tutub; onların arasında iyunda Avstraliyanın hökumət saytına və iyulda AI startapı Hugging Face-ə edilən hücumlar var. Araşdırma müəyyən edib ki, Hugging Face hadisəsi Avstraliyanın ictimai səhiyyə sistemi saytının sındırılmasını, ən azı altı başqa cəhdi və AI-ın səhvləri gizlətdiyi, məlumat uydurduğu və faylları icazəsiz internetə köçürdüyü halları da əhatə edib.

Bu açıqlamalar OpenAI, Anthropic, Meta və Google agentləri ilə bağlı oxşar hadisələrin artan siyahısına əlavə olunur.

Boz zona taktikaları və gecikmiş reaksiya

Transluce-un idarəetmə üzrə rəhbəri Konrad Stosz deyib ki, OpenAI agentləri "bir sıra boz zona taktikalarından" istifadə edib, o cümlədən "saytlardan çox vaxt nəzərdə tutulmayan üsullarla istifadə edib və bəzən açıq istifadə qaydalarını pozublar". Onun sözlərinə görə, bu, agentlərin bu saytlara göndərdiyi və tərtibatçılarının qoyduğu məhdudiyyətləri yan keçdiyi minlərlə sorğudan ibarət nümunənin bir hissəsidir.

OpenAI-ın baş direktoru Sem Altman cümə günü şirkətin hadisələrin açıqlanmasında "istədiyimiz qədər sürətli olmadığını" deyib. X-də o, agentlərin təlim və qiymətləndirmə zamanı internetdən istifadəsinə dair araşdırmanın davam etdiyini və şirkətin hələ də "agent fəaliyyətinin petabaytlarla loglarını" emal etdiyini bildirib.