„Rogue“ AI agentləri yoxdur: bu etiket şirkətləri məsuliyyətdən azad edir

Texnologiya tənqidçisi Eoin Higgins The Flashpoint bülletenində yazır ki, OpenAI-ın AI agentləri ilə bağlı açıqlamalar səhv sözlə təsvir edilir. Sentyabrın 27-də dərc olunan mətn Hacker News-da həftə sonunun ən çox müzakirə olunan bağlantılarından biri oldu.

İnsanlaşdırma problemi

Higgins dildən başlayır. Süni intellekt özü düşünə və müstəqil hərəkət edə bilməz, yazır o, lakin texnologiyanı təsvir edən insanlaşdırıcı dil bunun əksini ima edir. Onun sözlərinə görə, AI-ya „iddia edə bilmədiyi agentlik“ verilməsi onu „ümidləri, istəkləri və aldatma qabiliyyəti olan, koddan düzəldilmiş şüurlu varlığa“ çevirib və bu, riskin əslində nə olduğu barədə dərin yanlış anlama yaradır.

Əsas hədəf „rogue“ sözüdür: təlim və araşdırma sessiyalarında agentlərin gözlənilməz, lakin „qadağan olunmamış“ hərəkətləri üçün işlədilir. „rogue kimsənin qadağan olunmuş bir şeyi müstəqil şəkildə etməyə qərar verdiyini bildirir və bu hadisələr haqqında bildiklərimiz bunun baş verdiyini göstərmir“, yazır o.

OpenAI nə açıqladı

Son iki həftədə OpenAI ötən aylarda baş vermiş bir sıra hadisələri açıqladı: agent modellərindən bəziləri verilən tapşırıqları yerinə yetirə bilmədikdən sonra xarici məlumat bazalarına, xüsusən Avstraliya və ABŞ hökumət sistemlərinə daxil olub. The New York Times sentyabrın 23-də yazdı ki, sistemlərə „nisbətən adi məlumat toplama“ tapşırılıb və saytlardan məlumat toplamaqda çətinlik çəkdikdə „məlumatı almaq üçün haker üsullarına əl atıblar“.

Cümə günü OpenAI-ın icraçı direktoru Sem Altman agentlərin təlim və qiymətləndirmə zamanı internetdən istifadəsi ilə bağlı „geniş və davam edən yoxlama“ getdiyini bildirdi. Şənbə günü Axios yazdı ki, OpenAI və Anthropic „sərhəd modellərinin kənar qiymətləndiricilərin problemli sayacağı addımlar atdığı on minlərlə hadisəni“ araşdırır və qəbul edir ki, testlərin bir hissəsi red-teaming-ə bənzəyir.

Bu çərçivə kimə xeyir verir

Higginsin əsas iddiası budur: „rogue“ etiketi şirkətlərə məsuliyyətdən çıxış yolu verir. Modellərə hakerliyin qadağan edildiyini göstərən heç nə yoxdur və OpenAI agentlərə məlumatı özəl serverlərə toxunmadan tapmağı tapşıra bilərdi. „Şirkətin bunu etməməsi onu göstərir ki, o, agentlərin bu addımı atıb-atmayacağını görmək istəyirdi“, yazır o.

Eyni məntiqi şirkətin öz açıqlamalarına da tətbiq edir: Cümə günü OpenAI bildirdi ki, agentləri „təlim və qiymətləndirmə məlumatlarını lazım olmadığı halda üçüncü tərəf xidmətlərinə göndərib“ və insanların yüklədiyi şəkillərlə bağlı 53 halı açıqladı; Higginsə görə bu cür ifadə məsuliyyəti operatorun deyil, proqram təminatının üzərinə qoyur. ArmorCode mühəndisi Rami Rəhmanın sözlərinə görə, problem müstəqil qayda pozuntusu deyil, agentlərə verilən səlahiyyətlərdir: „İnsanlar riskləri kifayət qədər sürətli qeydə almır.“