AI-ის მკვლევრები ვიდეოებში: სუპერინტელექტი ზუსტად ისეთივე საშიშია, როგორც ჟღერს

არაკომერციულმა ორგანიზაციამ Palisade Research, რომელიც ხელოვნური ინტელექტის შესაძლებლობებსა და მოტივაციებს სწავლობს, ვიდეოინტერვიუების სერია გამოაქვეყნა საიტზე frominside.ai. The Verge-ის ცნობით, საუბრები OpenAI-ის, Google-ისა და Anthropic-ის ამჟამინდელ და ყოფილ თანამშრომლებთან ჩაიწერა, და მათში მკვლევრები ღიად საუბრობენ იმ რისკებზე, რომლებსაც თავად ქმნიან.

პროექტს Eli Tyre ხელმძღვანელობდა, აღმასრულებელი პროდიუსერი John Steidley იყო, მთავარი რედაქტორი კი Rudy Behrens. საიტი Lightcone Infrastructure-მა ააგო.

გადაშენების ალბათობა და კონტროლის პრობლემა

ყოფილი OpenAI-ისა და Google DeepMind-ის თანამშრომელი Geoffrey Irving აცხადებს, რომ მისი შეფასებით ადამიანის გადაშენების შანსი მონეტის აგდებას უდრის. Google DeepMind-ის მკვლევრის Neel Nanda-ს განცხადებით, ალბათობა მინიმუმ 10% არის, და ეს წარმოუდგენლად მაღალი მაჩვენებელია. OpenAI-ის ყოფილი მკვლევარი Daniel Kokotajlo ამბობს, რომ სუპერინტელექტი ღმერთის მსგავსად ძლიერი იქნება და მისი კონტროლის გზა არავინ იცის, ამიტომ მისი შექმნა დაუშვებელია.

რატომ მუშაობენ იმაზე, რასაც საშიშად მიიჩნევენ

ვიდეოების ნაწილი კითხვებს პასუხობს: არის თუ არა ეს ყველაფერი მხოლოდ მარკეტინგი და რატომ რჩება ადამიანი ისეთ პროექტში, რომელსაც თავად კატასტროფის შესაძლო წყაროდ თვლის. Google-ის თანამშრომელი Mary Phuong ამბობს, რომ მისი სიტყვები ეჭვით უნდა აღიქვან, რადგან ლაბორატორია მას ხელფასს უხდის. Nanda კი განმარტავს, რომ სამსახურს დატოვებდა, თუ არ დაიჯერებდა, რომ მისი ნაშრომი ამ რისკებს ამცირებს, თუმცა კომპანიები მისი წასვლის გამო სისტემების შექმნას არ შეაჩერებენ.

რატომ არის ეს მნიშვნელოვანი ახლა

ვიდეოები იმავე კვირას გამოქვეყნდა, როცა OpenAI-მ ფლაგმანური მოდელი Astra უსაფრთხოების გამო გაშვებამდე შეაჩერა და სანაცვლოდ იაფი GPT-6.1 Sol გამოუშვა, რაც იმას ნიშნავს, რომ ლაბორატორიები თავად აღიარებენ მათი ყველაზე ძლიერი სისტემის გაშვების რისკს.

თვითონ პროექტი ერთიან გადაწყვეტას არ სთავაზობს და მკითხველს AI Impacts-ის მკვლევრების გამოკითხვას ურჩევს, რომ სფეროს უფრო წარმომადგენლობითი სურათი მიიღოს.