ტიმნიტ გებრუ: AI-ს ეგზისტენციალური საფრთხე არ არსებობს, ნარატივი კი მავნეა

AI-ის მკვლევარი ტიმნიტ გებრუ ამბობს, რომ დებატები იმაზე, ემუქრება თუ არა AI კაცობრიობას, ტექნოლოგიის რეალური პრობლემებისგან ყურადღების გადატანა კი არა, მავნეა. WIRED-ის პოდკასტ „The Big Interview“-ში მან წამყვან ლორენ გუდის უთხრა: „ეს უბრალო გადახრა არ არის, ეს მავნეა“.

ინტერვიუ მას შემდეგ გამოქვეყნდა, რაც Anthropic-ის ახალგაზრდა მკვლევარმა თანამდებობა დატოვა და X-ზე დაწერა, რომ კომპანიაში ბევრს AI-ს ეგზისტენციალურ საფრთხედ მიაჩნია.

რიტორიკა, რომელიც ციკლებად მეორდება

გებრუს თქმით, ილონ მასკი და პიტერ ტილი AI-ს ეგზისტენციალურ საფრთხეზე 2013 წლიდან საუბრობენ და მსგავსი განცხადებები ყოველ სამ წელიწადში ბრუნდება. მან გაიხსენა Future of Life Institute, რომელიც MIT-ის ფიზიკოსმა მაქს ტეგმარკმა და Skype-ის თანადამფუძნებელმა, Anthropic-ის Series A რაუნდის ინვესტორმა იან ტალინმა დააარსეს.

მისივე თქმით, იგივე მილიარდერებმა, ვისაც Anthropic-ის საფონდო ბირჟაზე გატანიდან ყველაზე დიდი მოგება ელით, დააფინანსეს ის ინსტიტუტებიც, რომლებიც ეგზისტენციალური საფრთხის შესახებ გვაფრთხილებენ, და ის ორგანიზაციებიც, რომლებსაც დამოუკიდებელ მესამე მხარეებად წარმოაჩენენ. „ამიტომ ადამიანებმა უნდა იკითხონ, რატომ“, ამბობს ის.

რეგულირება და ხელში ჩაგდება

OpenAI-ის სემ ალტმანისა და Anthropic-ის დარიო ამოდეის გამოსვლებზე გაეროში, სადაც ორივემ კაცობრიობისთვის არსებულ რისკებზე ისაუბრა, გებრუმ თქვა, რომ ეს რეგულირების ხელში ჩაგდებაა. მან გაიხსენა, რომ 2023 წელს ალტმანი გლობალურ თანამშრომლობას ითხოვდა, AI Act-ის მიღების შემდეგ კი ევროკავშირიდან გასვლით დაიმუქრა. ჩინეთის რეგულატორები, მისივე თქმით, დიპფეიკებსა და კონკრეტულ პრობლემებზე საუბრობენ.

იურისტი არ არის, ამიტომ შემოთავაზებებში FTC-ის ყოფილ ხელმძღვანელ ლინა ხანს ეყრდნობა: მატყუარე მარკეტინგის კანონების აღსრულება, ტრენინგის მონაცემების წარმომავლობის დოკუმენტირება და მონაცემებზე მომუშავე ადამიანების ექსპლუატაციის შეწყვეტა.

„stochastic parrots“ და მისი კრიტიკა

გებრუს 2021 წლის ნაშრომი „On the Dangers of Stochastic Parrots“ დიდ ენობრივ მოდელებს თუთიყუშებს ადარებს: ისინი ტექსტის ყველაზე სავარაუდო მიმდევრობას გაუგებრად იმეორებენ. ნაშრომი Google-მა თავიდან დაამტკიცა, შემდეგ ნაწილი სადავო გახდა და გებრუ კომპანიიდან წავიდა.

Anthropic-ის თანადამფუძნებელმა ჯეკ კლარკმა ცოტა ხნის წინ X-ზე ეს ფორმულირება „მემეტიკურად გამძლე კოგნიტურ ვირუსს“ შეადარა. გებრუ ამბობს, რომ ეს არ გაუკვირვებია, და უარყოფს კვლევის მოძველებას: „მსჯელობა არ არსებობს. რეკურსიული ინტელექტიც არ არსებობს“.

მან სემი ბენჯიოს გუნდის 2025 წლის ნაშრომიც გაიხსენა: ბენჩმარკების მცირე ცვლილებაც კი ამსხვრევს იმ შედეგებს, რომლებსაც მსჯელობად წარმოაჩენენ. ნამდვილი შეფასება დროს მოითხოვს, ამიტომ კომპანიებმა მონაცემები უნდა გამოაქვეყნონ.

რა აძლევს იმედს

გებრუს ახალი წიგნი, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, მომავალი წლის დასაწყისში გამოდის. მისი ინსტიტუტი აწარმოებს „AI Resist List“-ს, სადაც ალტერნატიული ტექნოლოგიური მომავლის შემქმნელები არიან თავმოყრილი: „ადამიანის ნებისა და კოლექტიური ძალის რწმენა, ვფიქრობ, სწორედ ის არის, რაც მაძლევს იმედს“.