Bu yayın süni intellekt hay-küyü ekspert yoxlamasına niyə tab gətirmir

MIT Technology Review-da 22 sentyabrda dərc olunan rəy yazısında DAIR-ın icraçı direktoru Timnit Gebru və dilçi Emili M. Bender bu yayın süni intellekt bəyanatlarının ekspert yoxlamasından keçmədiyini iddia edirlər.

Səs-küylü bəyanatlar yayı

Müəlliflər ardıcıllığı belə qururlar: aprelin sonunda Anthropic şirkəti Claude Mythos modelinin proqram təminatı boşluqlarını əksər təhlükəsizlik ekspertlərindən daha yaxşı tapdığını bildirdi. Sonra OpenAI–Hugging Face kiberhücum hadisəsi baş verdi; ardınca Anthropic bənzər hadisəni "qürurla", Meta isə "istəksiz" açıqladı. Daha sonra Anthropic modellərindən birinin riyazi irəliləyiş etdiyini açıqladı və qısa müddət sonra OpenAI öz irəliləyişini iddia etdi. Ən sonda Anthropic mühəndisi Ceykob Kokson şirkətdən ayrıldığını elan edən paylaşımla viral oldu: onun sözlərinə görə, hər iki şirkət "özünü təkmilləşdirən super intellektə doğru düz gedir və həyatlarımızla qumar oynayır".

Ekspertlər nə tapdılar

Müəlliflərə görə, təmtəraq sıx işıqlandırıldı, halbuki ekspertlərin araşdırmasından sonra üzə çıxan mənzərə qat-qat az diqqət alır. Kibertəhlükəsizlik mütəxəssisləri bunu əsasən OpenAI-ın səhlənkarlığı və əsas təhlükəsizlik təcrübələrini tətbiq etməməsi hesab edir — "nəzarətdən çıxmış modellər" deyil. Astra adlı çatbotun ən azı on il açıq qalan məsələləri həll etdiyi barədə mətbuat buraxılışı ilə əvvəlcə heyrətə gələn riyaziyyatçılar sonradan nəticələrin ilk göründüyü qədər yeni olmadığı qənaətinə gəldilər və şirkəti tədqiqat etikasını pozmaqda və plagiatda günahlandırdılar. OpenAI-ın növbəti bəyanatından iki gün əvvəl Nyu-York Universitetinin Courant İnstitutunun professoru Tristan Bakmaster şirkətin başqalarının işini düzgün atribusiya etmədiyini irəli sürən bəyanat dərc etdi.

"Super intellekt": həm marketinq, həm qalxan

Müəlliflərə görə, yaxınlaşan, təhlükəli super intellekt barədə bəyanatlar yaxşı elmə və ya mühəndisliyə deyil, transhumanizm, yevgenika və xəyali rəqəmsal insanlar barədə arzuolunan düşüncə ideologiyalarına əsaslanır. Sistemləri "super intellekt" və ya "azğın modellər" adlandırmaq fəaliyyəti onları quran şirkətlərə deyil, məhsullara aid edir: məhsul "insanüstü" kimi satılır və şirkətlər məsuliyyətdən yayınır. Yüzlərlə riyaziyyatçının imzaladığı bəyanat "texnologiya sənayesinin öz məhsullarının imkanlarını şişirtməyə dair güclü kommersiya marağı" barədə xəbərdarlıq edir və siyasətçiləri ekspertlərə müraciət etməyə çağırır. Yazı həmçinin sənayenin data mərkəzi əleyhinə aktivizmi "yayındırma" kimi təqdim etməsini tənqid edir: ictimaiyyətdən data mərkəzlərinin iqlim təsirindən, yaxınlıqda yaşayanların astmasından, artan elektrik hesablarından və soyutma suyundan çox, xəyali bir maşın tanrısından qorxması istənilir. Müəlliflər belə nəticəyə gəlirlər ki, bu hay-küyün ən yaxşı nəticəsi ictimaiyyətin şübhəçiliyini qoruması olardı.