Harvard-ის ფსიქოლოგი: აპოკალიფსური რიტორიკის ნაცვლად AI-ის უსაფრთხოება ინჟინერიით უნდა გაძლიერდეს

Harvard-ის ფსიქოლოგმა სტივენ პინკერმა უარყო მოსაზრება, თითქოს ხელოვნური ინტელექტი კაცობრიობას გაანადგურებს. მან პოზიცია Quillette-ზე გამოქვეყნებულ ღია წერილში ჩამოაყალიბა, რომელიც ფსიქიატრ სკოტ ალექსანდრეს მიმართა. ალექსანდრემ მას AI-ის არსებობითი რისკების შესახებ საჯარო დებატები შესთავაზა, პინკერმა კი უარი თქვა და ასეთ კამათს „მაყურებლის სპორტი“ უწოდა.

პინკერის არგუმენტები

პინკერი უარყოფს აპოკალიფსურ სცენარებს, მათ შორის ე.წ. ქაღალდის სამაგრის მაქსიმიზატორს, რომელშიც AI კაცობრიობას ნედლეულად იყენებს მეტი სამაგრის დასამზადებლად. მისი თქმით, ასეთი სცენარები ინტელექტს დომინირების სწრაფვაში აიგივებს და ვარაუდობს, რომ სისტემა ერთ მიზანს გიჟურად მისდევს, გვერდითი შედეგების უგულებელყოფით.

ეს არგუმენტები მან ჯერ კიდევ 2018 წლის წიგნში Enlightenment Now წარადგინა, 31 გვერდიან თავში სახელწოდებით „Existential Risk“. მისი თქმით, აპოკალიფსურ სცენარებს ოთხი ნაკლი აქვს: განუვითარებელი წარმოდგენა ინტელექტზე, რომელსაც ძალაუფლების რაოდენობად განიხილავენ და სრულ ყოვლისმცოდნეობამდე ავრცელებენ; ინტელექტისა და მოტივაციის აღრევა, ვინაიდან თვითგადარჩენისა და დომინირების სწრაფვა ადამიანებში ბუნებრივი გადარჩევის შედეგია და არა ინჟინერიულ სისტემებში ჩადებული თვისება; ერთ მიზანზე შეპყრობის ვარაუდი; და ვარაუდი, რომ ინჟინრები ასეთ სისტემებს პლანეტის ფიზიკურ ინფრასტრუქტურაზე შეუზღუდავ და შეუქცევად კონტროლს მისცემენ.

ის ასევე მიუთითებს RAND Corporation-ის 2025 წლის მოდელირების ანალიზზე, რომელმაც დაუშვა, რომ AI-ს კაცობრიობის განადგურება სურს, და მაინც დაასკვნა: „არ არსებობს აღწერადი სცენარი, რომელშიც AI კაცობრიობისთვის გადარჩენის დონის საფრთხეა“.

რა შეიცვალა მის შეხედულებებში

პინკერი ტექნოლოგიას უვნებელს არ უწოდებს. ის აღიარებს, რომ დიდი ენობრივი მოდელების შესაძლებლობები შეაფასა დაბლა და ვერ წარმოიდგინა, რამდენად სწრაფად და ზოგჯერ უპასუხისმგებლოდ გამოუშვებდნენ პროდუქტებს წამყვანი კომპანიები. მისი თქმით, სწორედ იმ საზოგადოების ადამიანები ხელმძღვანელობენ ამ ჩქარობას, რომელიც რისკებზე აფრთხილებს.

რა მუშაობს სინამდვილეში

საფრთხეები, რომლებსაც პინკერი სერიოზულად აღიქვამს, ბიოტერორიზმი, კიბერდივერსია და უკონტროლო AI აგენტებია. მისი თქმით, ამ პრობლემებს აპოკალიფსური რიტორიკა ვერაფერს უშველიებს. სამაგიეროდ მუშაობს მშვიდი უსაფრთხოების შეფასება და საინჟინრო პრაქტიკა: დამოუკიდებელი ზედამხედველობა, ავარიების სავალდებულო გამოძიება, ზიანისთვის პასუხისმგებლობა, ადამიანის ჩართულობა ციკლში და გამორთვის მექანიზმები.

ის ასევე აფრთხილებს, რომ დასასრულის წინასწარმეტყველებები ხშირად საპირისპირო შედეგს იძლევა: გასული საუკუნის 60-იანი წლების ბირთვული შიში განიარაღების ნაცვლად შეიარაღების რბოლით დასრულდა.

ალექსანდრეს პოზიცია

სკოტ ალექსანდრემ საკუთარი შეხედულებები ივნისში თავის ბლოგ Astral Codex Ten-ზე წარმოადგინა. მისი შეფასებით, ალბათობა იმისა, რომ AI კაცობრიობას გაანადგურებს, 20%-ია. ის უფრო ძლიერ უსაფრთხოების კვლევასაც ითხოვს და საერთაშორისო შეთანხმებებს AI-ის განვითარების შესანელებლად.