20-ზე მეტი AI მკვლევარი: კვლევის ავტომატიზაციამ შესაძლოა „ინტელექტის აფეთქება“ გამოიწვიოს

20-ზე მეტი AI მკვლევარი, მათ შორის ნობელის პრემიის ლაურეატი ჯეფრი ჰინტონი, იოშუა ბენჯიო, OpenAI-ს მთავარი მეცნიერი იაკუბ პაჩოცკი და Anthropic-ის თანადამფუძნებელი ჯეკ კლარკი, 2026 წლის 28 სექტემბერს მოხსენება გამოაქვეყნა. მასში ავტორები აფრთხილებენ, რომ AI-კვლევის ავტომატიზაციამ შესაძლოა „ინტელექტის აფეთქება“ გამოიწვიოს. დოკუმენტს ხელი მოაწერა Microsoft-ის მთავარმა მეცნიერმა ერიკ ჰორვიცმა და Meta-ის AI-კვლევის ვიცე-პრეზიდენტმა დონ სონგმაც, ყველამ პირადი სახელით.

რას ნიშნავს „ინტელექტის აფეთქება“

მოხსენების სათაურია „What if automating AI R&D triggers an intelligence explosion?“. ავტორები ტერმინს ასე განმარტავენ: ეს არის AI-ის პროგრესის მკვეთრი დაჩქარება, რომელიც წლების განმავლობაში მისაღწევ წინსვლას თვეებში ან უფრო სწრაფად ახდენს. მექანიზმი რეკურსიული თვითგაუმჯობესებაა, ანუ სისტემები საკუთარ ტექნოლოგიას ადამიანის ჩარევის გარეშე აუმჯობესებენ.

ავტორების თქმით, როცა AI სისტემები AI-კვლევასა და განვითარებაში ექსპერტის დონეს მიაღწევენ, ერთ დეველოპერს შეეძლება მართოს სამუშაო ძალა, რომელიც „მილიონობით“ წამყვან მკვლევარს უდრის. სისტემები უკვე წერენ კოდის უმეტეს ნაწილს იმ კომპანიებში, რომლებიც მათ ქმნიან: Anthropic-ის თქმით, AI მისი კოდის 80%-ს წერს.

სარგებელი, რისკები და გაურკვევლობა

მოხსენებაში ნათქვამია, რომ წინასწარი მტკიცებულება აჩვენებს: პროგრამული უზრუნველყოფით გამოწვეული ინტელექტის აფეთქება შესაძლებელია. მისი შედეგი იქნება უაღრესად ძლიერი ან ადამიანს აღმატებული სისტემების სწრაფი განვითარება. ამას შეიძლება მოჰყვეს სამედიცინო გარღვევები, მაგრამ ავტორები სამ რისკს ასახელებენ: ბიოლოგიური და კიბერსაფრთხეები, რომლებიც დაცვის ზომებზე სწრაფად ვითარდება; კონტროლის დაკარგვა, როცა ადამიანი კვლევის პროცესიდან გადის; და მცირე უპირატესობის კიბერსივრცეში გადამწყვეტ უპირატესობად ქცევა.

ავტორები ხაზს უსვამენ, რომ შედეგები გაურკვეველია: გარღვევა შეიძლება შეაფერხოს სპეციალური მასალების მომარაგების ჯაჭვმა ან რეგულაციებმა, ხოლო AI-მ რისკების შემცირება შესაძლოა დააჩქაროს. სწრაფი პროგრესისთვის მზადება, მათი აზრით, „სასწრაფო პრიორიტეტია, მათ შორის მთავრობის უმაღლეს დონეზე“.

ხუთი რეკომენდაცია მთავრობებს

ავტორები მთავრობებს სთხოვენ, სავალდებულო გახადონ გამჭვირვალე პროგრესის ანგარიშები AI-კვლევაზე და კომპანიებში დამოუკიდებელი აუდიტორები ჩასვან; შეზღუდონ, რამდენად სწრაფად შეიძლება მოდელის გაუმჯობესება გარკვეულ პერიოდში; ავტომატიზებული კვლევითი სისტემები იზოლირებულად შეინახონ, რომ ადამიანის კონტროლს ვერ გაექცნენ; და შექმნან საგანგებო რეაგირების გეგმები.

შეფასებით, 2028 წლისთვის სრულად შეიძლება ავტომატიზდეს ის კვლევითი პროექტები, რომლებსაც ადამიანს თვეები სჭირდება. „AI-კვლევის ავტომატიზაციის პროდუქტიულობის ზრდა ჯერ არ მიუახლოებია ინტელექტის აფეთქებისთვის საჭირო ზღვარს, თუმცა ახალი სისტემების შედეგები ამ ზღვარს უახლოვდება“, წერენ ავტორები. „ინტელექტის აფეთქების დაწყების შემდეგ მოქმედების ფანჯარა შეიძლება დაიხუროს“, ნათქვამია მოხსენებაში.