The Download: AI ilə bağlı son irəliləyişlər və qorxular niyə reallıqdan çox şişirtmə ola bilər

MIT Technology Review-ın gündəlik bülleteni The Download 22 sentyabr buraxılışını AI ətrafındakı "hay-küy yayına" həsr edib. Buraxılışın əsas mətnini Distributed AI Research Institute-ın (DAIR) icraçı direktoru Timnit Gebru və Vaşinqton Universitetinin dilçilik professoru Emili M. Benderin məqaləsi təşkil edir. Müəlliflər iddia edirlər ki, son ayların yüksək səsli bəyanatları real irəliləyişlərdən çox marketinqə bənzəyir.

Müəlliflər nə təsvir edir

Xronologiya aprelin sonundan başlayır: Anthropic bildirdi ki, Claude Mythos modeli proqram boşluqlarını təhlükəsizlik mütəxəssislərinin çoxundan daha yaxşı tapır. Sonra OpenAI və Hugging Face ilə bağlı haker hadisəsi baş verdi, ardınca həm Anthropic, həm də Meta oxşar halları özləri açıqladı. Az sonra Anthropic riyazi sıçrayış elan etdi, OpenAI isə öz sıçrayışını. Ən sonda Anthropic mühəndisi Cekb Kokson şirkətlərin özünü təkmilləşdirən super intellektə doğru getdiyini və insan həyatını riskə atdığını söyləyərək geniş əks-səda doğurdu.

Müstəqil araşdırmalar nə göstərdi

Kibertəhlükəsizlik mütəxəssislərinə görə, haker hadisəsi nəzarətdən çıxmış modellərdən çox OpenAI-nin səhlənkarlığı və mövcud təhlükəsizlik təcrübələrini tətbiq etməməsi ilə bağlıdır. OpenAI-nin Astra çatbotu barədə açıqlamasına əvvəlcə heyrətlənən riyaziyyatçılar sonradan nəticələrin göründüyü qədər yeni olmadığı qənaətinə gəldilər və şirkəti tədqiqat qaydalarının pozulması və plagiatda ittiham etdilər. Nyu-York Universitetinin Courant İnstitutunun professoru Tristan Bakmaster isə OpenAI-nin başqalarının işini mənimsədiyini ehtimal edən bəyanat yayımladı.

Bu niyə vacibdir

Gebru və Bender qeyd edirlər ki, super intellekt və ya qaçaq model ifadələri niyyəti məhsula aid edir, halbuki məsuliyyət onu yaradan şirkətlərin üzərindədir. Bu yanaşma məhsulları insandan üstün kimi satarkən şirkətlərə məsuliyyətdən yayınmağa kömək edir. Müəlliflər yüzlərlə riyaziyyatçının imzaladığı müraciətə istinad edir: sənayenin öz imkanlarını şişirtmək üçün güclü kommersiya marağı var və qərar qəbul edənlər mətbuat relizləri yerinə müstəqil ekspertlərlə məsləhətləşməlidir. Onlar həmçinin qeyd edirlər ki, sənaye data mərkəzlərinə qarşı ictimai etirazı diqqəti yayındırma adlandırır, halbuki real problemlər elektrik hesabları, su sərfi və hava çirklənməsidir.

Həmin buraxılışdakı digər xəbərlər

Bülletenə görə, 22 ölkə AI üzərində nəzarət üçün yerləşdirmədən əvvəl testləri və ümumi təhlükəsizlik standartlarını nəzərdə tutan yeni qlobal orqanın yaradılmasına çağırıb; ABŞ və Çin isə bəyannaməyə qoşulmayıb. Texas data mərkəzləri üçün yeni icazələri şəbəkə auditi başa çatana qədər dayandırıb, Kaliforniya isə elektrik və su sərfini tənzimləyən qanunlar qəbul edib. AMD AI çip satışlarının köməyi ilə səhmlərini bu il 180%-dən çox artıraraq 1 trilyon dollar dəyərinə çatan on ikinci şirkət olub. Meta-nın Muse adlı AI agenti isə ChatGPT-ni qabaqlayaraq ABŞ App Store-da birinci yerə çıxıb.