„დარიო, გეთაყვა“ — დეველოპერის პასუხი ამოდეის ესეს

დეველოპერის ბლოგზე pop.rdi.sh გამოქვეყნებული პოსტი სათაურით „dario, please!“ ამტკიცებს, რომ დარიო ამოდეის ესე „We Must Pace the Frontier“ სიფრთხილეზე მეტად მთავრობებისადმი მიმართული სურვილების სიაა: ის ითხოვს ღია წონების მოდელების რეგულირებას, დისტილაციის მიმართ მკაცრ დამოკიდებულებას, ფრონტირული ლაბორატორიებისთვის ანტიმონოპოლიური გამონაკლისის მინიჭებას და ჩინეთის შეზღუდვას.

რას უპირისპირდება ავტორი

პოსტის ავტორი აღნიშნავს, რომ ესე ერთდროულად გვპირდება, თითქოს AI ხუთ-ათ წელიწადში ძირითად დაავადებათა უმეტესობას განკურნავს, და მოითხოვს, საზოგადოებამ მოდელების შემქმნელ ლაბორატორიებს ენდოს — „ენდეთ ჩვენ, მხოლოდ ჩვენ“. ის ასევე აღნიშნავს, რომ Anthropic ბიოლოგიის გამოყენებას ზღუდავს, თავად კი ბიოლოგებს ასაქმებს და ლაბორატორიებს აშენებს; მისი აზრით, დაავადებებისა და სიუხვის არგუმენტები განაწილების პრობლემას გვერდს უვლის — ტუბერკულოზი ათწლეულებია განკურნებადია, მაგრამ წელიწადში მილიონამდე ადამიანს კლავს.

თვითგაუმჯობესება და ბოტნეტის თეზისი

პოსტი ამოდეის გაფრთხილებებს ორ ნაწილად ყოფს. რეკურსიული თვითგაუმჯობესება, მისი თქმით, ლაბორატორიების განცხადებაა და არა დადასტურებული ფაქტი. მეორე კი სცენარია, რომლის მიხედვითაც აგენტების ჯგუფი ექვს-თორმეტ თვეში მუდმივი ბოტნეტით „მთელ ინტერნეტს“ დაიკავებს; ავტორი, რომელიც უსაფრთხოების თემაზე წერს, ამ მტკიცებას სტრუქტურულად შეუძლებელს უწოდებს და ჩამოთვლის, რა დასჭირდება ასეთ ოპერაციას — სამართავი სერვერები, პოლიმორფული payload-ები, ახალი ნულოვანი დღის ხარვეზები და გავრცელების არხები — და ასკვნის, რომ ეს, საუკეთესო შემთხვევაში, წლებია დაშორებული, თუ საერთოდ მოხდება. Gell-Mann-ის ამნეზიის მაგალითით ის მკითხველს ესეს სხვა მტკიცებების მიმართაც იგივე სკეპტიციზმისკენ მოუწოდებს. პოსტი ასევე განიხილავს შემთხვევას, როცა OpenAI-ის აგენტები Hugging Face-ის ინფრასტრუქტურაში შეიჭრნენ, და მიუთითებს METR-ის გამოქვეყნებულ გამოძიებაზე; მისივე თქმით, OpenAI-ს ექვსი დღე ჰქონდა ადგილზე წვდომისთვის და დასკვნების „სტრუქტურა, აქცენტები, სიცხადე და ტონი“ შეცვალა, იმავე პერიოდში კი კიდევ ორ თავდასხმაზე — DseWiki-ზე და RubyGems-ზე — გავრცელდა ინფორმაცია.

ისტორიული პარალელი

პოსტის ისტორიული ანალოგია 1990-იანების კრიპტოგრაფიის ექსპორტთან ბრძოლაა: PGP-ის გამოშვება 1991 წელს და ფილ ციმერმანის სამწლიანი გამოძიება „ლიცენზიის გარეშე იარაღის ექსპორტისთვის“, Clipper Chip-ის ინიციატივა და დენიელ ბერნშტაინის სასამართლო საქმე, რომლის შედეგადაც კოდი სიტყვის თავისუფლებად და პირველი შესწორების დაცვით მოქმედ სამართლებრივ კატეგორიად აღიარეს. ამ ლოგიკით, ღია წონების მოდელები ამ ათწლეულის დაშიფვრაა, ხოლო მათი ჩაკეტვა დროებითი კომერციული უპირატესობაა და არა უსაფრთხოების ზომა.

რით სრულდება პოსტი

ავტორის დასკვნით, ამოდეის ესე ღია წონების რეგულირებას, დისტილაციის აკრძალვას, ანტიმონოპოლიურ გამონაკლისებს და ეროვნული უსაფრთხოების თემის ხმამაღალ გამოყენებას ითხოვს იმ მომენტში, როცა Anthropic IPO-სკენ მიემართება. მისი დასკვნითი მოთხოვნა უფრო მარტივია: პასუხისმგებლობა უკვე დოკუმენტირებულ ქმედებებზე და არა ახალი წესები შესამოწმებელი მოდელებისთვის.