Jaan Tallinn AI-ის რისკებზე აფრთხილებს, Anthropic-ის IPO კი მას მილიარდებს მოუტანს

The Wall Street Journal-მა 25 სექტემბერს ესტონელი პროგრამისტისა და Skype-ის თანადამფუძნებლის, Jaan Tallinn-ის, პროფილი გამოაქვეყნა. ჟურნალისტი Kate Clark წერს, რომ Tallinn-მა გასული კვირა ნიუ-იორკში, გაეროს გენერალურ ასამბლეაზე გაატარა და მეწარმეებს, ინვესტორებსა და პოლიტიკოსებს უმტკიცებდა, რომ ხელოვნურ ინტელექტს კაცობრიობის განადგურება შეუძლია.

Tallinn ათ წელზე მეტია AI-ის უსაფრთხოებისთვის იბრძვის. ეს თემა კვლავ აქტუალური გახდა მას შემდეგ, რაც Anthropic-ის მკვლევარი Jacob Coxon გადადგა და გააფრთხილა, რომ AI კონტროლიდან შეიძლება გავიდეს. „სამწუხაროდ, მიმაჩნია, რომ ამ საფრთხეს საკმარისად სერიოზულად არ ვუყურებთ და ვცდილობთ შევქმნათ ტექნოლოგია, რომელსაც კაცობრიობის მოსპობა შეუძლია“, თქვა მან განცხადებაში.

ფსონი Anthropic-ზე

2021 წელს, მას შემდეგ რაც Dario Amodei და სხვა მკვლევრები OpenAI-დან, ნაწილობრივ უსაფრთხოების გამო, წავიდნენ და Anthropic დააარსეს, Tallinn-მა 124 მილიონი დოლარის Series A რაუნდს უხელმძღვანელა. რაუნდში Facebook-ის თანადამფუძნებელი Dustin Moskovitz, Jane Street-ის James McClave, Center for Emerging Risk Research და Google-ის ყოფილი ხელმძღვანელი Eric Schmidt მონაწილეობდნენ. გამოცემის მიერ მოყვანილი PitchBook-ის მონაცემებით, კომპანიის შეფასებამ 461 მილიონი დოლარი შეადგინა.

ტრადიციული ვენჩურული ფონდები რაუნდში თითქმის არ მონაწილეობდნენ და Anthropic-ს OpenAI-ის „გოლიათის“ წინააღმდეგ „დავითად“ აღიქვამდნენ. Tallinn-ის თქმით, მან ფული იმ იმედით ჩადო, რომ სახიფათო ტექნოლოგიის შემქმნელთა საუბრებში მის აზრს გაითვალისწინებდნენ.

ათი წლის გაფრთხილებები

Tallinn 54 წლისაა, დაიბადა ესტონეთში და რკინის ფარდის მიღმა გაიზარდა; მამამისი არქიტექტორი იყო, დედა კი კინორეჟისორი. თეორიული ფიზიკის დიპლომის შემდეგ ის ფაილების გაცვლის სერვის Kazaa-ს შექმნას შეურთდა, შემდეგ კი Skype-ს, რომელიც Microsoft-მა მოგვიანებით 8,5 მილიარდ დოლარად იყიდა. 2008 წელს AI-ის მკვლევრის Eliezer Yudkowsky-ის ნაშრომებმა ტექნოლოგიის კატასტროფული პოტენციალი დააჯერა.

ამჟამად ის ესტონეთის ყველაზე მდიდარ ადამიანად ითვლება; მისი ქონება 12 მილიარდ დოლარად არის შეფასებული. საკუთარი გამოქვეყნებული დონაციების ჩამონათვალის მიხედვით, AI-ის უსაფრთხოებაზე მან დაახლოებით 170 მილიონი დოლარი დახარჯა. ის Cambridge Centre for the Study of Existential Risk-ისა და Future of Life Institute-ის დამფუძნებლებს შორისაა.

2011 წელს, Dario Amodei-სთან სატელეფონო საუბრისას, მან ის პროგნოზი გააჟღერა, რომლითაც ცნობილი გახდა. სტენოგრამის მიხედვით, Tallinn-მა თქვა: „ვფიქრობ, AGI-ის კატასტროფის შედეგად დაღუპვის ალბათობა ორნიშნა რიცხვია“. „ჩემთვის ეს ისეა, თითქოს ბომბის განეიტრალებას ვცდილობთ“. Amodei ნაკლებად დარწმუნებული იყო: „შეიძლება ბომბი იყოს, შეიძლება არც იყოს“.

რა იქნება შემდეგ

Tallinn-ის წილი მკვეთრად გაიზრდება, თუ Anthropic დაასრულებს ბაზრის მოლოდინში არსებულ საჯარო განთავსებას. Tallinn-ის საინვესტიციო კომპანია Metaplanet-ის მმართველი პარტნიორი Rauno Miljand გამოცემასთან ამბობს, რომ ფირმა ცდილობს გადაწყვიტოს, როგორ გამოიყენოს განთავსებიდან მიღებული თანხა, რომელიც 2 ტრილიონ დოლარს შეიძლება გადააჭარბოს, კაცობრიობის სასარგებლოდ. „თუ აღმოჩნდა, რომ Anthropic-მა ვერ გაამართლა და ნულამდე დაეცა, ეს კარგია, რადგან მაშინ ჩვენ, სავარაუდოდ, ASI-ს არ მივაღწიეთ და კაცობრიობამ დამატებითი წლები მოიგო“, ამბობს ის. „ეს ერთგვარად ორმხრივი მოგებაა“.