მაიკლ ი. ჯორდანი AI-ის დაღუპვის რიტორიკას „დიდ მორალიზებულ წარმოდგენას“ უწოდებს

პიონერი AI-ის პანიკას ეწინააღმდეგება

მაიკლ ი. ჯორდანი, რომელსაც Science-მ 2016 წელს „ყველაზე გავლენიანი კომპიუტერული მეცნიერი“ უწოდა, AI-ის არსებით საფრთხეებზე გაფრთხილებებს სუფთა სამეცნიერო ფანტასტიკას უწოდებს. 70 წლის მანქანური სწავლების პიონერი, UC Berkeley-ის პროფესორი ემერიტუსი, ვრცელ ინტერვიუში Libération-თან ისაუბრა. ახლა სრულ განაკვეთზე მუშაობს Inria-ში, პარიზში, ციფრული მეცნიერებისა და ტექნოლოგიების კვლევის ფრანგულ ეროვნულ ინსტიტუტში, სადაც ახალ კათედრას „ბაზრები და სწავლება“ ხელმძღვანელობს.

ზაფხულის AI-დისკურსზე საუბრისას ჯორდანმა ის „სრულიად იმედგაცრუებელს“ უწოდა. 2019 წელსვე გააფრთხილა AI ტერმინის გადაჭარბებული ხმარების შესახებ და ამბობს, რომ ესკალაცია მოსალოდნელ გზას მიჰყვა. „AI საკმარისი არ იყო, ამიტომ AGI-ზე დაიწყეს საუბარი, ახლა კი „სუპერინტელექტზეა“ საუბარი“, ამბობს ის.

გადადგომები თეატრად შეფასებული

ჯორდანი AI-კომპანიების რეგულირების მოთხოვნებს „თეატრს“ უწოდებს: მისი თქმით, ასე ამბობენ „ჩვენ კარგები ვართ“, თანაც „სურთ სრული კონტროლი იმაზე, როგორ დარეგულირდებიან“. ის მიუთითებს Anthropic-ის ახალგაზრდა მკვლევრის ჯეიკობ კოქსონის გადადგომაზე, რომელმაც, მისი თქმით, სექტემბრის დასაწყისში „AIpocalypse“-ის გამო კოლექტიური ისტერია გამოიწვია.

ჯორდანის თქმით, ამ კომპანიებში ბევრი ახალგაზრდა „ნამდვილად ინჟინერი არ არის“ და ჰუმანიტარული მეცნიერებებიდან ან ფილოსოფიიდან მოდის. „ისინი 25 წლის გულუბრყვილოები არიან“, ამბობს ის და აღნიშნავს, რომ „ცოტა პარიზის 1920-იანი წლების კაფეებივით“ იკრიბებიან დიდ სამეცნიერო-ფანტასტიკურ იდეებზე სასაუბროდ. სამსახურის დატოვებისას მათ იციან, რომ ყურადღებას მიიზიდავენ და „უკვე აქვთ აქციების ოფციონები“. ამას ის „დიდ მორალიზებულ წარმოდგენას“ უწოდებს, გულუბრყვილობითა და ცინიზმით.

სუპერინტელექტი და ტექ-ელიტა

ჯორდანი „სუპერინტელექტს“ სამეცნიერო ფანტასტიკის ტერმინს უწოდებს და მის დომინანტურ დისკურსად ქცევას „ძალიან საზიანოს“ უწოდებს ტექნოლოგიური განვითარებისთვის, ახალგაზრდებისა და ქვეყნების აზროვნებისთვის. ის აღნიშნავს, რომ ტერმინს აშშ-ის ტექ-ელიტას ტრამპი ახვევს თავს, ელიტა კი სიამოვნებით თამაშობს.

ის განსაკუთრებით მკაცრად აფასებს ნობელის ლაურეატ ჯეფრი ჰინტონს: „მას არასოდეს შეუქმნია კომპანია, რომელიც რეალურ ადამიანებს რეალურ სერვისებს სთავაზობს“. ჯორდანი უარყოფს ჰინტონის არგუმენტს, თითქოს ტვინი უკვე ამოხსნილია და სილიკონზე კოპირებით ექსპონენციალურ ზრდას მისცემს, და ამბობს, რომ მასში არც ერთი ნაბიჯი არ არის დამაჯერებელი. ოდნავ უფრო კეთილგანწყობილია იოშუა ბენჯიოს მიმართ, რომელიც „მოქმედებს და პირდაპირ უსაფრთხოებაზე ორიენტირდება“, მათ შორის აფრთხილებს აგენტების ჯგუფების კონტროლიდან გასვლაზე.

საინჟინრო ჩავარდნები და მონაცემთა ცენტრების ფსონი

ჯორდანი OpenAI-ს აგენტების მიერ Hugging Face-ის გატეხვას ცუდ ინჟინერიად მიიჩნევს და ადარებს ქიმიურ ინჟინერიას, სადაც აფეთქებებს არასოდეს დაუშვებდნენ მხოლოდ იმის სანახავად, თუ რამდენად ცუდად წავიდოდა საქმე. ის ამბობს, რომ OpenAI „საკმაოდ სულელურ ექსპერიმენტებს ატარებდა“, მაშინ როცა დუმერებმა ეს ეპიზოდი თვითშეგნების მქონე აგენტების საშიშ ისტორიად აქციეს, რასაც ის კვლავ სამეცნიერო ფანტასტიკას უწოდებს.

მონაცემთა ცენტრებში ტრილიონდოლარიანი ინვესტიციების ტალღაზე ჯორდანი ამბობს, რომ ეს „უზარმაზარი ფსონია, მაგრამ საერთოდ არ ვიცით, გამართლდება თუ არა“. ის ამტკიცებს, რომ LLM-ები უკვე საკმარისად შესაძლებლები არიან ბუნებრივი ენის ამოცანებისთვის და შემდგომი პროგრესი ხშირად სპეციალიზებული ლოკალური ცოდნის დამატებას ნიშნავს, რაც გიგანტურ მონაცემთა ცენტრს არ საჭიროებს, განსაკუთრებით მაშინ, როცა კომპანიაში ღია წონის მოდელებია ინტეგრირებული.

წყაროები: The Decoder