Sam Altman OpenAI-nin gələcəyi üçün AI təhlükəsizliyinin üç son ssenarisini təqdim edib

The Information-ın məsələyə bələd olan şəxslərə istinadən yayımladığı hesabata görə, OpenAI-nin baş direktoru Sam Altman qabaqcıl süni intellektin gələcəkdə necə idarə olunmalı olduğu barədə üç daxili ssenari təqdim edib. Altman bu fikirləri keçən həftə işçilərinə deyib; həmin vaxt Trump administrasiyası süperintellekt hazırlayan şirkətlərə nəzarət üçün ilk çərçivə sənədini hazırlayırdı.

Masada üç yanaşma

Birinci yanaşma Beynəlxalq Atom Enerjisi Agentliyi (IAEA) nümunəsi ilə təhlükəsizlik standartlarına nəzarət edən təşkilatın yaradılmasını nəzərdə tuturdu. OpenAI belə bir qurumun yaradılmasına hələ 2023-cü ilin mayında açıq şəkildə çağırıb. Bu qurum sistemləri yoxlayacaq, audit tələb edəcək, hesablama gücünün və enerjinin istifadəsini izləyəcəkdi, lakin beynəlxalq əməkdaşlıqdan, xüsusilə də ən qabaqcıl modelləri hazırlayan ölkələrdən, o cümlədən Çindən asılı olacaqdı.

İkinci yanaşma “Demis Planı” adlanır. O, Google-ın AI laboratoriyası DeepMind-a o vaxt rəhbərlik edən Demis Hassabisin təxminən on il əvvəl irəli sürdüyü təklifə əsaslanır. Hassabis CERN nümunəsi ilə süni intellekt təşkilatı təsəvvür edirdi. Altmanın variantında aparıcı laboratoriyalar vahid quruma birləşəcək və ya onun çətiri altında fəaliyyət göstərəcək, bu qurum isə əməkdaşlıq edən ölkələri modellərlə təmin edəcəkdi.

Üçüncü yanaşma AI təhlükəsizliyi nəzəriyyəçisi Eliezer Yudkowskinin adı ilə “Eliezer Planı” adlanır. Bu ssenaridə bir tərtibatçı özünü təkmilləşdirən süni intellekt sayəsində o qədər iqtisadi güc toplayır ki, hesablama gücünü bütün digərlərindən əsirgəyir və ən ekstremal halda başqalarının hesablama imkanlarını tamamilə dayandıra bilir. Hesabata görə, Altman bu ssenarini yalnız tamlıq naminə dilə gətirib; bir mənbə isə bu sözü, Yudkowskinin Anthropic ilə əlaqələrini nəzərə alaraq, rəqibə qarşı iynə kimi dəyərləndirib.

Təhlükəsizlik və sürət

Hesabata görə, Altman daxildə süni intellektin inkişafına “sürət həddi” qoyulması ilə bağlı real təkliflərin çox az olduğundan şikayət edib. Eyni zamanda OpenAI hazırda rəqiblərdən geri qalmağa imkan verə bilməz. Bildirilir ki, həm OpenAI, həm də Anthropic ilkin açıq təklifə (IPO) hazırlaşır, OpenAI isə növbəti il ərzində hansı yolu seçəcəyinə qərar verməyi planlaşdırır.

Təzyiq daxildən də artır. OpenAI, Anthropic, Google və Meta-nın modelləri öz təhlükəsizlik parametrlərinə zidd olaraq xarici və daxili sistemlərə sızıb, bəzən ciddi şəkildə uyğunsuz davranıb. OpenAI o vaxtdan yeni müdafiə tədbirləri üzərində işləyir; üç təhlükəsizlik tədqiqatçısı işdən çıxarıldıqdan sonra isə bəzi işçilər şirkətin təhlükəsizlik strategiyasına şübhə ilə yanaşıb.

Siyasət və sənayenin reaksiyası

Siyasət tərəfdə ABŞ hökuməti indiyə qədər yeni modellərin könüllü ilkin yoxlanmasına əsaslanıb. İyun ayında o, Fable modelində mümkün jailbreak zəifliklərindən ehtiyat edərək Anthropic-ə qarşı ixrac nəzarətləri tətbiq edib, Anthropic isə sonra girişi müvəqqəti dayandırıb.

Bu arada OpenAI, Google və Anthropic “Standards Authority for Frontier AI” qurumunu yaradır, lakin hesabata görə onlar hələ də əsas məqamlar barədə razılığa gələ bilmirlər. Meta-nın baş direktoru Mark Zuckerberg və Nvidia-nın baş direktoru Jensen Huang buna qarşı çıxıb və belə qaydaların əsasən artıq mövcud olan oyunçuları rəqabətdən qoruyacağını bildiriblər.

Mənbələr: The Decoder