WSJ: Anthropic-ის ვეტერანები შორეულ მიწებზე ყიდვას იმ შემთხვევისთვის განიხილავენ, თუ AI კონტროლს გამოექცევა

The Wall Street Journal-ის ცნობით, Anthropic-ის რამდენიმე ყველაზე ხანგრძლივად მომუშავე თანამშრომელი შორეულ მიწებზე ყიდვას განიხილავს, რათა საჭიროების შემთხვევაში იქ გადავიდეს, თუ ხელოვნური ინტელექტის განვითარება კონტროლს გამოექცევა. ამის შესახებ გამოცემამ 26 სექტემბერს დაწერა.

პუბლიკაციის ცნობით, კომპანიის „ყველაზე ადრეულ თანამშრომლებმა“ ბოლო კვირებში დარგის კოლეგას უთხრეს, რომ ასეთ შესყიდვას კონკრეტულ სარეზერვო გეგმად განიხილავენ.

„მანჰეტენის პროექტის“ სცენარი

AI-ისგან გაქცევის იდეა ამ წრეებში ახალი არ არის. ყოფილი თანამშრომლები იხსენებენ, რომ Anthropic-ის ადრეული წლების კორპორატიულ ვახშმებზეც კი „მანჰეტენის პროექტის“ ტიპის სცენარს განიხილავდნენ: შესაძლოა, მათ უდაბნოში გადასვლა და AI-ის შექმნის გაგრძელება სთხოვონ, ელექტრომაგნიტურად დაცულ სამთავრობო ობიექტში.

წლების განმავლობაში იმავე წრეებში განიხილავდნენ შორეული კუნძულების ყიდვას, იოდის აბების მარაგსა და უდაბნოში დაცულ ბუნკერებში გადასვლას, წერს გამოცემა.

ფესვები ეფექტურ ალტრუიზმში

პუბლიკაცია აკვირდება, თუ რამდენად მჭიდროდ არიან Anthropic-ისა და OpenAI-ს ყველაზე ადრეული თანამშრომლები დაკავშირებული ეფექტური ალტრუიზმის (EA) სუბკულტურასთან. ზოგიერთი მათგანი სან-ფრანცისკოს ყურის რეგიონის „დუმერების“ ქსელიდან მოდის, სადაც წლების განმავლობაში სამყაროს დასასრულის სცენარებს ამუშავებდნენ. ელიეზერ იუდკოვსკი, რომელმაც უკონტროლო AI-ის შესახებ გაფრთხილება 2000-იანი წლების შუაში დაიწყო, ამ სუბკულტურის ინტელექტუალურ ლიდერად იქცა. სანამ AI საფრთხეების სიის სათავეში მოექცეოდა, ჯგუფი ასტეროიდებისა და სუპერვულკანების რისკებზე იყო კონცენტრირებული.

ამ აქტივობის მნიშვნელოვანი ნაწილი ბერკლიში, Constellation-ის სახელწოდების კოვორკინგ-სივრცეში მიმდინარეობს: იქ AI-ის უსაფრთხოების მკვლევრები ყოველთვიურ ვახშმებზე უახლეს რისკებს განიხილავენ, Anthropic-ის თანამშრომლებს კი იქ საკუთარი ოფისიც აქვთ. თანამშრომლები აღსასრულის სცენარებს დახურულ Slack-ის არხზეც მსჯელობენ და ლეპტოპებზე დევიზს აკრავენ: „სიმშვიდე აღარასდროს დაბრუნდება“. მათ ზოგიერთ პროექტს თანამშრომლები და დაფინანსება EA-სთან დაკავშირებული ქსელიდანაც მიუზიდავს, მათ შორის სემ ბენკმან-ფრიდისგან, FTX-ის ყოფილი ხელმძღვანელისგან, რომელიც ახლა 25-წლიან სასჯელს იხდის.

რატომ არის ეს მნიშვნელოვანი

სარეზერვო გეგმების შემქმნელები იმ ადამიანებს შორის არიან, რომლებიც იმ ტექნოლოგიას ქმნიან, რისიც ეშინიათ. OpenAI და Anthropic იმ პრინციპით დაარსდა, რომ AI-ის საფრთხეები აღკვეთილიყო, და უსაფრთხოების თემის გავლენა განსაკუთრებით ძლიერია Anthropic-ში, რომელსაც WSJ 2 ტრილიონი დოლარის საჯარო განთავსების წინა ეტაპზე აღწერს.

Anthropic-ის წარმომადგენელმა განაცხადა, რომ კომპანიაში 3500-ზე მეტი თანამშრომელი მუშაობს და მათი შეხედულებები მრავალფეროვანია. პუბლიკაცია AI-ის რისკებზე საჯარო დებატების განახლების ფონზე გამოქვეყნდა: ამ თვეში Anthropic-ის მკვლევრის, ჯეიკობ კოქსონის, გადადგომამ ყურადღება იმ მოსაზრებაზე მიიპყრო, რომ უკონტროლო AI-მ შეიძლება კაცობრიობა გაანადგუროს.