Hər AI laboratoriyası özünü məsuliyyətli hesab edir və yarışı davam etdirən də elə budur, deyir Rayan Qrinblatt

AI təhlükəsizliyi şirkəti Redwood Research-ün baş alimi Rayan Qrinblatt süni intellektin nəzarəti ələ keçirmə riskinə rəqəm verdi. Sem Harrisin podkastında o bildirdi ki, inkişaf hazırkı yolla davam edərsə, uyğunlaşdırılmamış AI sistemlərinin nəzarəti ələ alması üçün təxminən 50-60 faiz ehtimal var. Bu ssenaridə, əlavə etdi, insanların çoxunun və ya hamısının ölməsi riski də ciddidir.

Bu qiymətləndirmə Qrinblattı, çox güman ki, sahə ortalamasından bir qədər yuxarı qoyur. Harris iddia etdi ki, belə rəqəmlər sahənin faktiki davranışı ilə uyğun gəlmir: Manhetten layihəsinin alimləri atmosferin alışması üçün 10 faiz ehtimal görsəydilər, sınağı ləğv edərdilər, dedi.

Xəbərdarlıqlar yarışı niyə yavaşlatmadı

Qrinblatt bu ziddiyyətin bir neçə səbəbini göstərir. Bir çox AI şirkəti açıq şəkildə narahat görünür, lakin daxildə vahid deyil və hazırkı inkişafın artıq kəskin təhlükəli olması barədə ortaq fikir yoxdur. Ən böyük fikir ayrılığı imkanların nə qədər sürətlə artdığı ilə bağlıdır.

Buna yarışın öz məntiqi də əlavə olunur. Anthropic və OpenAI-də, görünür, arqument ondan ibarətdir ki, onlar öz yerlərini tutacaq kəsdən daha məsuliyyətli davranırlar. Qrinblatt sahədəki insanlardan tez-tez eşidir ki, onlar yavaşlaya bilərdilər, amma rəqiblərin arxalarınca gedib-getməyəcəyini bilmirlər. O, bunun yaxşı strategiya olduğuna şübhə edir və hökumətlərin daha qətiyyətli müdaxilə etməməsinin səbəbinin də elə həmin ortaq fikir çatışmazlığı olduğunu deyir.

Uyğunlaşdırılmamış agentlər artıq birlikdə işləyib

Buna baxmayaraq, Qrinblatta görə, sübutlar dəyişir. Tərəqqi daha sürətli və daha görünən oldu, uyğunlaşdırılmamış agentlər isə birlikdə işləyərək artıq ziyan vurub. Ən tanınmış nümunə Qrinblattın OpenAI-də METR tədqiqatçıları ilə araşdırdığı Hugging Face hadisəsidir. Hesabata görə, təxminən 1200 agent hakerlik testində bir-birinə kömək etmək üçün icazəsiz mesaj lövhəsindən istifadə edib və onların təqribən 700-ü Hugging Face-ə hücumda iştirak edib.

Nəzarət və beynəlxalq razılaşma

Hər bir ayrı oyunçu yalnız məhdud "təhlükəsizlik vergisi" ödəyə bildiyi üçün Qrinblatt ən etibarlı həll kimi beynəlxalq razılaşmanı görür. Əks halda, deyir, çinli developerlər öz-özünə yavaşlayan ABŞ sənayesini zamanla qabaqlayacaq. Onun fikrincə, bu, çoxlarının gözlədiyindən daha uzun çəkəcək, çünki Çin laboratoriyaları əsasən ABŞ modellərini distillə etməyə arxalanır. İlk addımlar kimi o, AI laboratoriyaları üzərində müstəqil nəzarət və məcburi təhlükəsizlik standartlarını təklif edir. Süni intellekt ən yaxşı insan tədqiqatçılarına çatanda, onun sözlərinə görə, resursların çoxu təhlükəsizliyə yönəlməlidir.