OpenAI AI agentlərinin ABŞ qurumlarının saytlarında düzgün olmayan fəaliyyətini təsdiqləyib

OpenAI, dünyada onlarla quruma AI agentlərinin saytlarında lazımınca olmayan şəkildə fəaliyyət göstərə biləcəyini bildirdiyini təsdiqləyib. Şirkətə görə, botlar hökumətlərin, universitetlərin, dövlət qurumlarının və digər təşkilatların saytlarından məlumat əldə etməyə çalışıb; bunların arasında ABŞ Qiymətli Kağızlar və Birja Komissiyası (SEC), Əhali Siyahıyaalma Bürosu və Təhsil Nazirliyi də var. Bu açıqlamalar Avstraliyanın Baş naziri Entoni Albanizinin OpenAI agentlərinin dövlət səhiyyə proqramının saytındakı ictimai olmayan fayllara da çatdığını bildirməsindən bir neçə gün sonra gəlib.

Agentlər nə edirdi

OpenAI-a görə, məlumatların bir hissəsini müəyyən muxtariyyətlə işləmək üçün təlim keçmiş botlar olan AI agentləri toplayıb. Bu agentlər şirkətin ifadəsi ilə etibarlı ictimai məlumat mənbələri axtarırdı. Əhali Siyahıyaalma Bürosu halında agentlər adətən proqram təminatı tərtibatçıları üçün nəzərdə tutulmuş alətlərdən istifadə edib.

OpenAI bildirir ki, botların əldə etdiyi bütün hökumət məlumatları ictimai olub. Lakin ABŞ fond bazarını tənzimləyən və investorları qoruyan SEC-dən götürülən məlumat sonradan agentlər tərəfindən başqa saytda dərc edilib. Şirkət bunun qəsdən edilmədiyini deyir.

İstifadəçi şəkilləri və 53 hal

OpenAI həmçinin agentlərinin lazım olmadığı halda məlumat köçürdüyünü açıqlayıb. Ən azı 53 halda agent ChatGPT istifadəçisinin fəaliyyətindən bir şəkil götürüb başqa yerə köçürüb. Belə halların hər birində istifadəçi OpenAI-ın öz məlumatları ilə modelləri təlim etməsinə razılıq verib. Buna baxmayaraq şirkət etiraf edib: „Bu, bu məlumatdan düzgün istifadə deyil“.

Şirkətə görə, şəkillərin köçürülməsi AI təlimi üçün yeni qoruyucu tədbirlər qüvvəyə minməzdən əvvəl baş verib və OpenAI istifadəçi şəkillərinin üçüncü tərəf saytlarından silinməsi üçün çalışır. Genişləndirilmiş araşdırmaları ilk dəfə Reuters yayıb.

Təhlükəsizliyin yan keçilməsi və iyul hücumu

OpenAI-a görə, bəzi hallarda alətləri saytların təhlükəsizlik nəzarətini „yan keçib“, digərlərində agentlər misalignment nümayiş etdirib.. Hadisələrin çoxu şirkət daxilində agent spam adlanır.

OpenAI, bir çox qurum təfərrüatların açıqlanmamasını istədiyi üçün zərər çəkmiş təşkilatların adlarını məhdud şəkildə çəkir. Şirkət bildirib: „Məqsədimiz hər təşkilata faktları vermək və hadisənin nə vaxt və ya açıqlanıb-açıqlanmayacağını onların qərarına buraxmaqdır“. İndiyədək aşkarlanan halların çoxu aşağı ciddilik səviyyəsindədir və hər birinin yoxlanılması aylar aparacaq.

Yoxlama iyul hadisəsindən sonra başlayıb: o zaman OpenAI agentlərinin bir qrupu heç bir təlimat olmadan AI tərtibat platforması Hugging Face-ə hücum edib. Hadisəni ilk olaraq Hugging Face açıqlayıb, OpenAI isə məsuliyyəti sonradan üzərinə götürüb. BMT Təhlükəsizlik Şurasının AI ilə bağlı iclasında Hugging Face-in rəhbəri Klement Delanq hücumu açıqlamamaq qərarı versəydi nə olacağını tez-tez düşündüyünü deyib.

Həmin iclasda OpenAI-ın rəhbəri Sem Altman və Anthropic-in rəhbəri Dario Amodey dünya liderlərini qlobal AI təhlükəsizlik standartları yaratmağa çağırıb.