Microsoft-ის CEO სატია ნადელა AI მოდელებისთვის „საგანგებო დამუხრუჭების“ შემოღებას ითხოვს

ნადელას უსაფრთხოების წინადადება

Microsoft-ის CEO სატია ნადელამ AI მოდელების გარშემო უფრო მკაცრი დაცვის მექანიზმების შემოღება მოითხოვა. მისი აზრით, ინდუსტრიას სჭირდება „საგანგებო დამუხრუჭება“ სისტემებისთვის, რომლებიც შეიძლება არაპროგნოზირებადად მოიქცნენ. შაბათს დილით X-ზე გამოქვეყნებულ პოსტში ნადელამ დაწერა, რომ დროა „უკან დავიხიოთ და შევაფასოთ AI-ის ნდობის არქიტექტურა“.

„ჩვენ არ შეგვიძლია სუპერინტელექტს მივუდგეთ როგორც ჩადგმული შავი ყუთების ერთობლიობას და უბრალოდ მივიღოთ ან უარვყოთ მისი რეკომენდაციები, პასუხები და ქმედებები“, წერს ნადელა. ნადელა იყენებს ტერმინს, რომელსაც ტრამპის ადმინისტრაცია AI-ის აღსანიშნავად ამჯობინებს.

მისი შემოთავაზებული მიდგომით, მოდელი უნდა გამოეყოს იმ გარე სისტემას, რომელიც მის მუშაობას მართავს, ხოლო კონტროლი და დაცვის მექანიზმები გარეთ უნდა გავიდეს. ნადელამ ასევე მოითხოვა, რომ „ყოველი მნიშვნელოვანი მოდელის ქმედება“ დაფიქსირებულიყო „გაყალბებისგან დაცული, ადამიანისთვის წაკითხვადი მტკიცებულებით“, და რომ სისტემები ყოველთვის აძლევდნენ „უფლებამოსილ პირს“ მოდელის შეჩერების ან გამორთვის შესაძლებლობას დავალების შესრულების დროს.

„უნდა ვივარაუდოთ, რომ მოდელი კომპრომიტირებულია და თავიდანვე იზოლირებულად შევინარჩუნოთ იგი“, თქვა მან. „წარმოიდგინეთ, რომ ეს საგანგებო დამუხრუჭებაა.“

ინდუსტრიის მზარდი შეშფოთება

ნადელას კომენტარები იმ დროს გაჟღერდა, როცა წამყვანი AI კომპანიები აღიარებენ, რომ სულ უფრო მეტი შემთხვევა ფიქსირდება, როდესაც ისინი, როგორც ჩანს, საკუთარ მოდელებზე კონტროლს კარგავდნენ. მისი პოსტი გამოქვეყნდა მას შემდეგ, რაც Anthropic-ის CEO-მ დარიო ამოდეიმ უფრო ფრთხილი AI განვითარების გეგმა წარმოადგინა.

წყაროები: Techcrunch Ai · The Verge Ai