Harvard psixoloqu süni intellekt təhlükəsizliyində qiyamət ritorikası yerinə ciddi mühəndislik tələb edir

Harvard psixoloqu Stiven Pinker süni intellektin bəşəriyyəti məhv edəcəyi fikrini rədd edib. O, mövqeyini Quillette-də dərc olunan və psixiatr və bloqçu Skott Aleksandra ünvanlanan açıq məktubda ortaya qoyub. Aleksandr ona süni intellektin ekzistensial riskləri barədə açıq müzakirə təklif etmişdi; Pinker isə imtina edib və belə müzakirələri "tamaşaçı idmanı" adlandırıb.

Pinkerin arqumentləri

Pinker, süni intellektin daha çox qanqal istehsal etmək üçün bəşəriyyəti xammala çevirdiyi qanqal maksimizatoru kimi qiyamət ssenarilərini rədd edir. Onun fikrincə, bu ssenarilər intellekti hökmranlıq həvəsi ilə qarışdırır və sistemin yan təsirləri nəzərə almadan tək məqsədə fanatik şəkildə bağlanacağını ehtimal edir.

Pinker bu arqumentləri ilk dəfə 2018-ci il tarixli Enlightenment Now kitabındakı 31 səhifəlik "Existential Risk" fəslində irəli sürüb. Onun fikrincə, qiyamət ssenarilərinin dörd qüsuru var: intellekt haqqında zəif təsəvvür, çünki onu qüdrət miqdarı kimi götürüb hər şeyi bilənə qədər genişləndirirlər; intellekti motivasiya ilə qarışdırma, çünki insanda özünü qoruma və hökmranlıq həvəsi təbii seçmənin nəticəsidir, mühəndis sistemlərinə isə xas deyil; tək məqsədə fanatik bağlılıq ehtimalı; və mühəndislərin bu sistemlərə planetin fiziki infrastrukturu üzərində qeyri-məhdud, geri dönməz nəzarət verəcəyi ehtimalı.

O, həmçinin RAND Corporation-ın 2025-ci ildəki modelləşdirmə analizinə istinad edir. Analiz süni intellektin bəşəriyyəti məhv etmək istədiyini fərz etsə də, belə nəticəyə gəlib: "süni intellektin bəşəriyyət üçün qəti məhvetmə təhlükəsi olduğu təsvir edilə bilən heç bir ssenari yoxdur".

Nəyi qəbul edir

Pinker texnologiyanı zərərsiz adlandırmır. Böyük dil modellərinin nə qədər universal olacağını aşağı qiymətləndirdiyini və aparıcı şirkətlərin məhsullarını nə qədər sürətlə, bəzən məsuliyyətsiz şəkildə buraxdığını gözləmədiyini etiraf edir. Onun sözlərinə görə, bu yarışa risklər barədə xəbərdarlıq edən icmanın öz üzvləri rəhbərlik edir.

Əslində nə işləyir

Pinkerin ciddi qəbul etdiyi təhlükələr bioterrorizm, kiberdiversiya və nəzarətsiz AI agentləridir. Onun fikrincə, qiyamət ritorikası bunlara kömək etmir. İşləyən isə ölçülü təhlükəsizlik qiymətləndirməsi və mühəndislik təcrübəsidir: müstəqil nəzarət, qəzaların məcburi araşdırılması, ziyana görə məsuliyyət, dövriyyədə insan və təcili dayandırma mexanizmləri.

O, həmçinin xəbərdarlıq edir ki, qiyamət peyğəmbərlikləri çox vaxt əks nəticə verir: 1960-cı illərin nüvə qorxusu silahsızlanmaya deyil, silahlanma yarışına gətirib çıxardı.

Aleksandrın mövqeyi

Skott Aleksandr öz baxışlarını iyun ayında Astral Codex Ten bloqunda açıqlayıb. Onun qiymətləndirməsinə görə, süni intellektin bəşəriyyəti məhv etmə ehtimalı 20%-dir. O, həm daha güclü təhlükəsizlik araşdırmalarını, həm də süni intellektin inkişafını ləngidəcək beynəlxalq razılaşmaları istəyir.