Microsoft-un CEO-u Satya Nadella AI modelləri üçün „təcili söndürmə” tələb edir

Nadellanın təhlükəsizlik təklifi

Microsoft-un CEO-u Satya Nadella AI modelləri ətrafında daha sərt müdafiə mexanizmlərin tətbiqini tələb etdi. Onun fikrindən, sənayeyə gözlənilməz davranə bilən sistemlər üçün „təcili söndürmə” lazımdır. Şənbə səhərı X-də yerləşdirilmiş yazıda Nadella „AI etibar mexanizminə baxığıb qiymətləndirmək vaxtıdır” yazıb.

„Superintellektləri quraşdırılmış qara qutular kimi qəbul etmək və onların təkliflərini, cavablarını və hərəkətlərini sadəcə qəbul etmək və ya rədd etmək olmur”, — yazır Nadella. Nadella Tramp administrasiyasının AI üçün təsvir etdiyi termindən istifadə edir.

Onun təklif etdiyi yanaşmaya görə, model onu idarə edən xarici sistemdən ayrılmalı, nəzarət və müdafiə mexanizmləri isə kənarda qalmalıdır. Nadella həmçinin „hər əhəmiyyətli model hərəkəti” „saxtaçılıqdan qorunan, insanlar üçün oxunan sübutla” qeydə alınmalıdır və sistemlər vəzifə yerinə yetirilməsi zamanı „səlahiyyətli şəxsə” modeli dayandırmaq və ya söndürmək imkanı verməlidir.

„Modelin təxribata uğradığını fərz etmək və onu yenidən izolyasiya etməliyik”, — dedi o. „Təsəvvür edin ki, bu təcili söndürmədir.”

Sənayenin artan narahatlığı

Nadellanın şərhləri əməliyyat şirkətləri öz modelləri üzərində nəzarəti itirdiklərini qəbul etdikləri halda səsləndi. Onun yazısı Anthropic-in CEO-u Dario Amodei daha ehtiyatlı AI inkişaf planını təqdim etdikdən sonra dərc olundu.

Mənbələr: Techcrunch Ai · The Verge Ai