რატომ იშლება ამ ზაფხულის AI-ჰაიპი ექსპერტების შემოწმებისას

MIT Technology Review-ში 22 სექტემბერს გამოქვეყნებულ მოსაზრების სტატიაში Distributed AI Research Institute-ის (DAIR) აღმასრულებელი დირექტორი ტიმნიტ გებრუ და ლინგვისტი ემილი მ. ბენდერი ამტკიცებენ, რომ ზაფხულის AI-განცხადებების ტალღა ექსპერტების შემოწმებას ვერ უძლებს.

ხმაურიანი განცხადებების ზაფხული

ავტორები თანმიმდევრობას აღადგენენ: აპრილის ბოლოს Anthropic-მა განაცხადა, რომ მისი მოდელი Claude Mythos პროგრამული უსაფრთხოების ხარვეზებს უმეტეს უსაფრთხოების ექსპერტზე უკეთ პოულობს. შემდეგ მოხდა OpenAI–Hugging Face-ის ჰაკინგის ინციდენტი, რის შემდეგაც Anthropic-მა მსგავსი შემთხვევა „სიამაყით“ გაასაჯაროვა, Meta-მ კი „უხალისოდ“. შემდეგ Anthropic-მა განაცხადა მათემატიკური გარღვევის შესახებ, რასაც მალე OpenAI-ის მსგავსი განცხადება მოჰყვა. ბოლოს Anthropic-ის ინჟინერი ჯეიკობ კოქსონი ვირუსულად გავრცელდა წასვლის განცხადებით, რომ კომპანიები „თვითგანვითარებადი სუპერინტელექტისკენ მიისწრაფვიან და ჩვენი სიცოცხლით თამაშობენ“.

რას აღმოაჩინეს ექსპერტებმა

ავტორების თქმით, აჟიოტაჟი ინტენსიურად გაშუქდა, ექსპერტების მიერ მოვლენების შესწავლის შემდეგ გამოვლენილი სურათი კი გაცილებით ნაკლებ ყურადღებას იღებს. კიბერუსაფრთხოების სპეციალისტების აზრით, ჰაკინგის შემთხვევები OpenAI-ის უყურადღებობასა და ძირითადი უსაფრთხოების პრაქტიკის დაუცველობას ეხება და არა „გამფრქვევ მოდელებს“. მათემატიკოსები, რომლებიც თავდაპირველად გაოცდნენ პრესრელიზით, თითქოს ჩატბოტმა Astra-მ ათწლეულზე ღია ამოცანები გადაჭრა, შემდეგ მივიდნენ დასკვნამდე, რომ შედეგები ისეთი ახალი არ იყო, როგორც ჩანდა, და კომპანია კვლევითი ეთიკის დარღვევასა და პლაგიატში დაადანაშაულეს. OpenAI-ის მორიგ განცხადებამდე ორი დღით ადრე NYU-ის Courant Institute-ის პროფესორმა ტრისტან ბაკმასტერმა გაავრცელა განცხადება, რომ კომპანიამ სხვების ნაშრომი არასწორად მიაწერა.

„სუპერინტელექტი“ — მარკეტინგი და ფარი

ავტორების არგუმენტით, საშიში სუპერინტელექტის შესახებ განცხადებები კარგ მეცნიერებასა და ინჟინერიაზე არ ეფუძნება, არამედ ტრანსჰუმანიზმის, ევგენიკისა და წარმოსახვითი ციფრული ადამიანების შესახებ სანატრელი აზროვნების იდეოლოგიებს. სისტემების „სუპერინტელექტად“ ან „გამფრქვევ მოდელებად“ წოდება პასუხისმგებლობას პროდუქტებს აკისრებს და არა მათ შემქმნელ კომპანიებს — პროდუქტს „ზეადამიანურად“ ყიდის და კომპანიებს ანგარიშვალდებულებას არიდებს. ასობით მათემატიკოსის ხელმოწერილი განცხადება აფრთხილებს „ტექნოლოგიურ ინდუსტრიაში არსებულ ძლიერ კომერციულ ინტერესზე, გადააჭარბოს მათი პროდუქტების შესაძლებლობებს“ და მოუწოდებს პოლიტიკოსებს, ექსპერტებს ურჩიონ და არა პრესრელიზებს. სტატია აკრიტიკებს ინდუსტრიის მცდელობას, ანტი-დატაცენტრული აქტივიზმი „გადახრად“ წარმოაჩინოს: საზოგადოებას ფიქციური მანქანა-ღმერთის შიში უფრო მეტად სთხოვენ, ვიდრე დატაცენტრების კლიმატური გავლენის, მეზობლების ასთმის, გადასახადებისა და გაგრილების წყლის შიში. ავტორების დასკვნაა, რომ ჰაიპის საუკეთესო შედეგი სკეპტიციზმის შენარჩუნება და დამოუკიდებელი ექსპერტების მოსმენის დრო იქნება.