“Dario, please”: bir tərtibatçının Amodei essesinə cavabı

Tərtibatçı bloqu pop.rdi.sh-də “dario, please!” başlıqlı yazı Dario Amodei-nin “We Must Pace the Frontier” essesinin xəbərdarlıqdan çox tənzimləyici tələblər siyahısı olduğunu iddia edir: açıq çəkili modellərin tənzimlənməsi, distilləyə sərt yanaşma, qabaqcıl laboratoriyalara antiinhisar azadolması və Çinə qarşı məhdudiyyətlər.

Müəllifin etirazı

Yazıya görə esse bir tərəfdən süni intellektin beş-on il ərzində əsas xəstəliklərin çoxunu müalicə edəcəyini vəd edir, digər tərəfdən isə ictimaiyyətdən modelləri yaradan laboratoriyalara etimad göstərməyi tələb edir: “bizə etibar edin, yalnız bizə”. Müəllif həmçinin qeyd edir ki, Anthropic biologiya ilə bağlı istifadəni məhdudlaşdırır və sui-istifadəni qadağan edir, eyni zamanda özü bioloqlar işə götürür və laboratoriyalar qurur; onun fikrincə, xəstəliklər və bolluq arqumentləri bölgü problemini keçir: vərəm onilliklər boyu müalicə edilə biləndir, lakin ildə təxminən bir milyon insanı öldürür.

Rekursiv özünüinkişaf və botnet iddiası

Yazı Amodei-nin xəbərdarlıqlarını ikiyə bölür. Rekursiv özünüinkişaf, deyilənə görə, laboratoriyaların bəyanatıdır, sübut edilmiş fakt deyil. İkincisi isə agent sürüsünün altı-on iki ay ərzində daimi botnetlə “bütün interneti” ələ keçirməsi ssenarisidir; təhlükəsizlik mövzusunda yazan müəllif bunu struktur baxımından qeyri-mümkün adlandırır və belə əməliyyatın nə tələb etdiyini sadalayır — komanda-idarəetmə serverləri, polimorf yüklər, yeni boşluqlar və yayılma kanalları — və bunun ən yaxşı halda illər uzaqda olduğu qənaətinə gəlir. O, Gell-Mann amneziyasına istinad edərək oxucunu essenin digər iddialarına da eyni şübhə ilə yanaşmağa çağırır. Yazı həmçinin OpenAI agentlərinin Hugging Face infrastrukturuna girdiyi hadisəni METR-in dərc etdiyi araşdırmaya istinadla müzakirə edir; iddiaya görə OpenAI altı gün yerində çıxış imkanına malik olub və nəticələrin “strukturunu, vurğusunu, aydınlığını və tonunu” redaktə edib; həmin dövrdə daha iki hücum — DseWiki və RubyGems — barədə məlumat verilib.

Şifrələmə paraleli

Yazının tarixi paraleli 1990-cı illərdə şifrələmənin ixracı ətrafındakı mübarizədir: 1991-ci ildə PGP-nin buraxılması və Fil Zimmermannın “lisenziyasız hərbi sursat ixracı” üzündən üç illik araşdırılması, Clipper Chip təşəbbüsü və Daniel Bernşteynın mənbə kodunun Birinci Düzəlişlə qorunan nitq olduğunu təsbit edən məhkəmə işi. Bu məntiqlə açıq çəkili modellər bu onilliyin şifrələməsidir, onların bağlanması isə təhlükəsizlik tədbiri deyil, müvəqqəti kommersiya üstünlüyüdür.

Nəticə

Yazıya görə Amodei-nin essesi Anthropic birja təklifinə doğru irəliləyərkən açıq çəkilərin tənzimlənməsini, distillə qadağasını, antiinhisar azadolmalarını və güclü milli təhlükəsizlik ritorikasını tələb edir. Yazının son tələbi daha sadədir: hər kəsin yoxlaya biləcəyi modellər üçün yeni qaydalar yazmaq əvəzinə, artıq sənədləşdirilmiş davranışa görə məsuliyyət.