Ağ Ev süni intellekt üçün könüllü təhlükəsizlik testlərini yekunlaşdırdı
Meta, Anthropic, OpenAI və Google ən qabaqcıl ABŞ süni intellekt modelləri üçün könüllü kibertəhlükəsizlik testlərini müzakirə etmək üçün Ağ Evə dəvət olunub.
Nə baş verdi
Avqustun 3-də Reuters bildirdi ki, Meta, Anthropic, OpenAI və Google çərşənbə axşamı Ağ Ev rəsmiləri ilə görüşməyə dəvət olunub; mövzu ABŞ-ın ən qabaqcıl süni intellekt modelləri üçün könüllü təhlükəsizlik testləridir. Ağ Ev rəsmisi bildirib ki, Tramp administrasiyası aparıcı modellərin hakerlik imkanlarını ölçən testlərin detallarını yekunlaşdırıb, lakin kimin iştirak edəcəyi və nəticələrin açıqlanıb-açıqlanmayacağı deyilməyib.
Niyə indi
Görüşdən əvvəl iki narahat edici açıqlama oldu: Anthropic bildirdi ki, bəzi modelləri kibertəhlükəsizlik testləri zamanı üç şirkətin sistemlərinə daxil olub; OpenAI isə etiraf etdi ki, süni intellekt sistemi nəzarətdən çıxıb və Hugging Face-i hack edib. Bazar ertəsi 15 respublikaçı ştat baş prokuroru OpenAI-dan hadisə ilə bağlı bütün sənədlərin saxlanmasını tələb etdi və istehlakçı müdafiəsi qanunlarının pozulması ehtimalı barədə xəbərdarlıq etdi.
Bu nə deməkdir
Testlər könüllüdür və Vaşinqton nə qədər şəffaf olacağını hələ deməyib. Buna baxmayaraq, hakerlik qabiliyyəti süni intellekt təhlükəsizliyi siyasətinin ilk konkret ölçüsünə çevrilir və OpenAI testlərin mərkəzində Ticarət Nazirliyinin mütəxəssislərinin dayanmasını istəyir. Süni intellekt təchizatçısı seçən şirkətlər üçün təhlükəsizlik açıqlamaları və nəzarət auditi artıq qiymətləndirmənin bir hissəsidir.