Facebook həmtəsisçisi AI üzərində nəzarət ofisi yaratmağı təklif edir

Facebook-un həmtəsisçisi Chris Hughes süni intellekt şirkətlərinin banklar kimi nəzarət altına alınmasını təklif edib. Sentyabrın 23-də Financial Times-da dərc olunan məqaləsində o, sərhəd (frontier) AI laboratoriyalarının içində dövlət nəzarətçi komandalarını yerləşdirəcək "AI Nəzarəti Ofisi" (Office of AI Supervision) yaradılmasını təklif edir; nəzarətçilərin üç illik sabit müddətlə təyin edilməsi isə tənzimləyici ələ keçirmə (regulatory capture) riskini azaltmağa yönəlib. Təfərrüatlar FT mətnini ümumiləşdirən Techmeme-ə əsaslanır.

Təklif nəyi nəzərdə tutur

2007-ci ildə Facebook-dan ayrılan Hughes "Marketcrafters: The 100-Year Struggle to Shape the American Economy" kitabının müəllifi və Brookings Institution-ın qeyri-rezident tədqiqatçısıdır. Onun arqumentinə görə, iki sektor bir-birinə bənzəyir: hər ikisi sürətlə dəyişir və bütün iqtisadiyyata yayılır, buna görə məmurlar innovasiyanın faydası ilə onun yaratdığı riskləri birlikdə ölçməlidir. Laboratoriyaları kənardan yoxlamaq əvəzinə, təklif olunan ofis dövlət nəzarətçilərini şirkətlərin içində yerləşdirəcək — nəzarət etdikləri şirkətlərə həddindən artıq yaxınlaşmamaq üçün üç illik sabit müddətlə.

Hansı arqumentə söykənir

Məqalə Anthropic-in baş direktoru Dario Amodeinin sentyabr essesi "We Must Pace the Frontier"də irəli sürdüyü fikri davam etdirir: müstəqil qiymətləndiricilərin AI şirkətlərinin içində iş masaları olmalıdır. Amodei bildirib ki, Anthropic kənar qiymətləndiricilərə daxili risk komandalarına bənzər giriş — masalar, keçid kartları və şirkət noutbukları — həmçinin nəticələrini şirkətin redaktə nəzarəti olmadan, məhdud istisnalarla dərc etmək hüququ verəcək. O, bu modeli tənzimləyicilərin bəzən işçilərlə birgə oturduğu bank nəzarətinə bənzədib və hökumətləri digər sərhəd laboratoriyalarını da buna məcbur etməyə çağırıb. OpenAI-dan Sam Altman şirkətinin də eyni addımı atacağını deyib.

Niyə vacibdir

Bank nəzarətçisi bir quruma hansısa təcrübəni dayandırmağı əmr edə, artımını məhdudlaşdıra, ekstremal hallarda qurumu bağlaya bilər. AI laboratoriyaları üçün təklif olunan qiymətləndiricilər isə hələlik yalnız araşdırıb hesabat dərc edə biləcək, modelin təlimini və ya buraxılışını dayandıra bilməyəcək — könüllü nəzarətin tənqidçiləri məhz bu boşluğa işarə edir. Hughes-un təklifi daha uzağa gedir: laboratoriyalara kənar podratçılar yerinə dövlət komandaları girəcək və onların müddəti məhdud olacaq. Məqalə hökumətlərin də eyni sualı müzakirə etdiyi vaxtda dərc olunur: sentyabrın 22-də BMT-də çıxışında ABŞ prezidenti Donald Trump AI riskləri ilə bağlı beynəlxalq paktı rədd edib və süni intellektin "super intelligence" adlandırılmasını istədiyini deyib; məlumatı Techmeme yayıb.