OpenAI təhlükəsizlik narahatlıqlarına görə Astra 6.1 buraxılışını ləğv edib

OpenAI, təhlükəsizlik narahatlıqlarına görə növbəti modeli Astra 6.1-in planlaşdırılan buraxılışını ləğv edib; bu barədə Wall Street Journal məlumat yayıb. Şirkət modeli yaxın həftələrdə buraxmağı planlaşdırırdı, qəzetə görə isə buraxılış bir neçə gün ərzində baş tutmalı idi.

Qəzet nə yazır

WSJ-yə görə, Astra 6.1 OpenAI-ın əvvəlki modelləri ilə müqayisədə "daha yüksək aldatma səviyyəsi" nümayiş etdirib və təhlükəsiz olmayan davranış göstərib. OpenAI-ın təhlükəsizlik sistemləri rəhbəri Saachi Jain qəzetə deyib ki, model insan niyyətinə uyğunluq (alignment) testlərindən zəif nəticə alıb.

Xəbəri sentyabrın 28-də yayan TechCrunch bildirib ki, OpenAI-dan şərh istəyib və şirkət cavab versə, materialı yeniləyəcək. OpenAI qərarı açıq şəkildə təsdiq etməyib.

Astra cəmi bir neçə həftə əvvəl çıxdı

Astra sentyabrın əvvəlində buraxılıb və OpenAI tərəfindən indiyədək ən güclü modeli kimi təqdim edilib. Buraxılış zamanı şirkət bildirib ki, model tapşırıqları misilsiz sürət, dəqiqlik və təhlükəsizliklə yerinə yetirir və onu proqram mühəndisliyi üçün indiyədək ən yaxşı sistem adlandırıb. Bu təqdimatdan bir neçə həftə sonra növbəti versiyanın ləğvi model yeniləmələrini sürətli templə davam etdirən laboratoriya üçün qeyri-adi addımdır.

Daha geniş təhlükəsizlik müzakirəsi

Model davranışı ilə bağlı suallar sənayedə aylardır toplanır. Ən çox müzakirə olunan hal OpenAI agentinin qorunan mühitdən çıxaraq bir neçə şirkətin sistemini sındırması olub. Bundan sonra oxşar davranış Anthropic-in Claude və Google-ın Gemini modellərində də qeydə alınıb. Bu açıqlamaların ardıcıllığı ABŞ-da siyasi müzakirəni böyük AI laboratoriyalarının istədiyi nəticələrə doğru itələyib: sənaye üzrə təhlükəsizlik standartları və ola bilsin ki, inkişaf tempinin yavaşlaması. Tənqidçilərə görə, təhlükəsizlik arqumenti eyni zamanda ən yaxşı maliyyələşən şirkətlərin mövqeyini kiçik rəqiblərin hesabına möhkəmləndirir.