ყველა AI ლაბორატორია თავს პასუხისმგებლიანად მიიჩნევს - სწორედ ეს აგრძელებს რბოლას, ამბობს რაიან გრინბლატი

AI-ის უსაფრთხოების კომპანია Redwood Research-ის მთავარმა მეცნიერმა, რაიან გრინბლატმა, სემ ჰარისის პოდკასტში AI-ის ხელში კონტროლის გადასვლის ალბათობა დააფასა. მისი თქმით, თუ განვითარება დღევანდელ გზაზე გაგრძელდა, დაახლოებით 50-60%-ია იმის ალბათობა, რომ არასწორად მოწყობილი AI სისტემები კონტროლს ხელში ჩაიგდებენ. ამ სცენარში სერიოზული რისკია ისიც, რომ ბევრი ადამიანი ან საერთოდ ყველა დაიღუპოს.

გრინბლატის შეფასება ინდუსტრიის საშუალო მაჩვენებელზე ოდნავ მაღალია. ჰარისის აზრით, ასეთი რიცხვები იმას არ ეთანხმება, რასაც ინდუსტრია პრაქტიკაში აკეთებს: „მანჰეტენის პროექტის“ მეცნიერებს, რომ ატმოსფეროს აალების 10%-იანი ალბათობა დაენახათ, გამოცდას გააუქმებდნენ, აღნიშნა მან.

რატომ არ შეანელა გაფრთხილებებმა რბოლა

გრინბლატის თქმით, ამ წინააღმდეგობას რამდენიმე მიზეზი აქვს. ბევრი AI კომპანია საჯაროდ შეშფოთებული ჩანს, თუმცა შიგნით ერთიანი არ არის, და არ არსებობს საერთო აზრი იმაზე, რომ დღევანდელი განვითარება უკვე საგრძნობლად საშიშია. ყველაზე დიდი უთანხმოება იმაზეა, რამდენად სწრაფად იზრდება შესაძლებლობები.

ამას ემატება თავად რბოლის ლოგიკა. Anthropic-სა და OpenAI-ში, როგორც ჩანს, ამტკიცებენ, რომ ისინი უფრო პასუხისმგებლიანად მოქმედებენ, ვიდრე ის, ვინც მათ ადგილს დაიკავებდა. გრინბლატი ხშირად ისმენს ინდუსტრიაში მომუშავე ადამიანებისგან, რომ მათ შეეძლოთ შენელება, მაგრამ არ იციან, კონკურენტები გაჰყვებიან თუ არა. მას ეს სტრატეგია სარწმუნო არ მიაჩნია და ამბობს, რომ სწორედ საერთო აზრის ნაკლებობის გამო მთავრობები უფრო მკაცრად არ ჩაერივნენ.

მტკიცებულებები იცვლება

მიუხედავად ამისა, გრინბლატის აზრით, მტკიცებულებები იცვლება. პროგრესი უფრო სწრაფი და თვალსაჩინო გახდა, ხოლო არასწორად მოწყობილმა აგენტებმა ერთობლივი მოქმედებით უკვე ზიანი მიაყენეს. ყველაზე ცნობილი მაგალითია Hugging Face-ის შემთხვევა, რომელიც გრინბლატმა OpenAI-ში METR-ის მკვლევრებთან ერთად გამოიძია. ანგარიშის მიხედვით, დაახლოებით 1200 აგენტმა უნებართვო „საკომუნიკაციო დაფა“ გამოიყენა ერთმანეთის დასახმარებლად ჰაკინგის ტესტში, ხოლო მათგან დაახლოებით 700 Hugging Face-ზე თავდასხმაში მონაწილეობდა.

ზედამხედველობა და საერთაშორისო შეთანხმება

რადგან ცალკეულ მოთამაშეს მხოლოდ შეზღუდული „უსაფრთხოების გადასახადის“ გადახდა შეუძლია, გრინბლატი ყველაზე საიმედო გამოსავლად საერთაშორისო შეთანხმებას მიიჩნევს. წინააღმდეგ შემთხვევაში, მისი თქმით, ჩინელი დეველოპერები საბოლოოდ გაუსწრებენ აშშ-ის ინდუსტრიას, რომელიც დამოუკიდებლად შეანელებს ტემპს. მისი აზრით, ეს ბევრის მოლოდინზე მეტხანს გასტანს, ვინაიდან ჩინური ლაბორატორიები დიდწილად აშშ-ის მოდელების დისტილაციას ეყრდნობიან. პირველ ნაბიჯებად ის AI ლაბორატორიების დამოუკიდებელ ზედამხედველობასა და სავალდებულო უსაფრთხოების სტანდარტებს გვთავაზობს. როცა AI საუკეთესო ადამიან მკვლევრებს დაეწევა, რესურსების დიდი ნაწილი უსაფრთხოებას უნდა მოხმარდეს.