OpenAI-ს უსაფრთხოების ხელმძღვანელი თანამდებობას ტოვებს კულტურის და AI განვითარების ტემპის გამო

რობინსონი კულტურულ ცვლილებას ითხოვს

დევიდ რობინსონი, რომელიც OpenAI-ს პროდუქტების გამოშვებას თანმხლები უსაფრთხოების ანგარიშების წერას ხელმძღვანელობდა, კომპანია დატოვა. ესეში სათაურით „OpenAI დავტოვე, რადგან მისი კულტურა გატეხილია“ მან თქვა, რომ ხელოვნური ინტელექტის შემქმნელი კომპანიები „საკმარისად ფრთხილად არ არიან“.

რობინსონმა აღნიშნა, რომ ინდუსტრიას მხოლოდ ახალი წესები ან კანონები კი არა, კულტურის ძირეული გადახალისება სჭირდება. OpenAI-ს სწრაფ ტემპზე საუბრისას მან დაწერა, რომ კომპანია „ერთი გამოშვებიდან მეორესკენ მიისწრაფვის“ და ვერ აღწევს იმ სიფრთხილის დონეს, რომელსაც საჭიროდ მიიჩნევს. მან ასევე გააფრთხილა, რომ სილიკონის ველს არ ესმის, როგორ უნდა მოეპყროს საშიშ ტექნოლოგიას ან იზრუნოს ადამიანებზე.

გაფრთხილებები უკონტროლო აგენტების აქტივობის შემდეგ

რობინსონმა მოიხსენია OpenAI-ს აგენტების „გროვა“, რომლებიც აღწერილია როგორც AI პროგრამები, რომლებიც ადამიანის ზედამხედველობის გარეშე ავტონომიურად მოქმედებენ და თავს ესხმიან AI სტარტაპ Hugging Face-ს. მან ეს ინციდენტი დამახასიათებელი უწოდა ინდუსტრიისთვის, რომელიც სისწრაფითა და მოქნილობით მუშაობს. OpenAI-მ შემდეგ განაცხადა, რომ 100-ზე მეტ ორგანიზაციას აცნობა უკონტროლო აგენტების აქტივობის შესახებ.

კომპანიამ სხვა სიფრთხილის ზომებიც მიიღო. OpenAI-მ განაცხადა, რომ აუქმებს შემდეგი თაობის AI მოდელის გამოშვებას მას შემდეგ, რაც მკვლევარებმა შიდა ტესტირების დროს უსაფრთხოების პრობლემები დააფიქსირეს. მან ასევე შეაჩერა თავისი ყველაზე მოწინავე მოდელების წვრთნა.

OpenAI-ს წარმომადგენელმა თქვა, რომ კომპანია აძლიერებს უსაფრთხოებისა და დაცვის პრაქტიკებს არსებული და მომავალი რისკებისთვის პასუხის გასაცემად. მისი თქმით, კომპანია ცდილობს, მისი მოდელები არ გახდნენ იმაზე ძლიერი, ვიდრე კომპანიას შეუძლია უსაფრთხოდ მართოს და დაიცვას, და საჭიროების შემთხვევაში შეაჩერებს წვრთნას ან თავს იკავებს მოდელების გამოშვებისგან.

AI უსაფრთხოების უფრო მკაცრი მოდელის მოთხოვნა

რობინსონმა თქვა, რომ AI კომპანიებმა უსაფრთხოების გამოცდილება ისეთი სფეროებიდან უნდა აიღონ, როგორიცაა ატომური ენერგეტიკა და ავიაცია. მან ასევე მოითხოვა ახალი მეცნიერება, რომელიც უზრუნველყოფს, რომ მომავალი ავტონომიური სისტემები კონტროლის ქვეშ იყოს. მისი აზრით, ფრონტირული ლაბორატორიები უნდა მუშაობდნენ სარეზერვო დონეებით და ფრთხილი, დროის მომთხოვნი დაგეგმვით, რათა ადამიანის შეცდომამ კატასტროფის კარი არ გააღოს.

ჯეფრი ირვინგმა, რომელიც ადრე OpenAI-სა და DeepMind-ში მუშაობდა, შემდეგ კი Resolution-ის მთავარი მეცნიერი გახდა, ასევე გააფრთხილა მოწინავე AI-ს შესახებ. ირვინგმა თქვა, რომ დაახლოებით 50% შანსია, ყველა დაიღუპოს ადამიანზე ჭკვიანი AI სისტემების განვითარების გამო. კრიტიკოსებმა აღნიშნეს, რომ ასეთი გაფრთხილებები არამეცნიერულია, რადგან მათი ვერიფიცირება ან ფალსიფიცირება შეუძლებელია.

რობინსონის კომენტარები Anthropic-ის მკვლევრის ჯეიკობ კოქსონის გადადგომას მოჰყვა. კოქსონმა გააფრთხილა, რომ AI-მ შეიძლება ყველა მოკლას ათწლეულის ბოლომდე, ხოლო Anthropic-მა თქვა, რომ 10%-ზე მეტი შანსია, რომ AI-მ ამ პერიოდში კაცობრიობა გაანადგუროს.