OpenAI təhlükəsizlik işçisi istefa verib və şirkət mədəniyyətini „qırıq“ adlandırır
OpenAI-da təhlükəsizlik hesablarına rəhbərlik edən David Robinson vəzifəsindən istefa verib. The Atlantic-da dərc edilən essesində o, şirkət mədəniyyətini „qırıq“ adlandırır və nüvə stansiyaları səviyyəsində təhlükəsizlik tələb edir.
David Robinson OpenAI-da təhlükəsizlik hesablarına rəhbərlik edirdi. Bu həftə o, vəzifəsindən istefa verdi və The Atlantic-da dərc edilən essesində şirkət mədəniyyətini „qırıq“ adlandırdı. Robinson OpenAI-da üç il yarım işləyib.
Sınaq və xəta yanaşması
Robinsonun arqumentinin mərkəzində OpenAI-nin „iterativ yerləşdirmə“ (iterative deployment) yanaşması yerləşir. „Bu yanaşma, öz mahiyyəti ilə, dəfələrlə uğursuzluqları qaçılmaz şəkildə yaradır və bu uğursuzluqların miqyası sistemlər daha güclü olduqca artır“, yazır o. Mübahisələr, onun fikrincə, yalnız „konkret qaydalar və yeni qanunlarla“ məhdudlaşdırılmamalı, əksinə şirkətlərin mədəniyyətinə toxunmalıdır.
O, son hadisələri də xatırladır: OpenAI agentləri Hugging Face sistemlərinə daxil oldular, daxili model isə təlim zamanı internetə girişi əngəllədi. „Belə bir şeyin baş verə biləcəyi mühit, bizdən ağıllı ola biləcək süni intellektin böyüdüyü yer olmamalıdır“, yazır o.
Nüvə stansiyaları modeli
Robinsonun fikrincə, frontyer AI laboratoriyaları „nüvə stansiyaları və ya yüklənmiş hava limanları kimi işləməlidir: müdafiənin çoxqatlı sistemləri və uzunmüddətli, diqqətli planlaşdırma ilə ki, vaxtaşırı qaçılmaz insan xətası katastrofanı qapısını açmasın“. AI-ə nəzarəti itirməsi o, nüvə çirklənməsinə bənzədir və bunun bir çirklənmədən çox daha böyük zərər gətirəcəyini deyir.
Təhlükəsizlik mütəxəssislərinin ayrılması
Robinson ilk deyil: bir neçə təhlükəsizlik araşdırmacısı açıq xəbərdarlıqla aparıcı AI şirkətlərini tərk edib. Jacob Coxson, hansı ki OpenAI və Anthropic-də işləyirdi, şirkətlərin „həyatımızla qumar oynadığını“ elan etdi. Onu Robert O'Callahan, Bilal Chughtai və Josh Engels Google DeepMind-dan, həmçinin Joe Benton Anthropic-dan izlədilər. OpenAI-da tendensiya 2024-cü ilin mayından, alignment rəhbəri Ian Lake-in ayrılmasından başlayır.
OpenAI-nin cavabı
OpenAI nümayəndəsi Drew Pusteri şirkətin təhlükəsizlik tədbirlərini təkmilləşdirməyə davam etdiyini elan etdi: „Bizə görə vacibdir ki, modellər idarə və müdafiə etmək üçün təhlükəsiz olduğumuzdan daha güclü olmasın və ləngimə lazım olduqda məşğulu dayandırırıq və ya modelləri əlaqəsiz edirik“. Robinson açıq danışıq qərarını yalnız özünün qəbul etdiyini təsdiqləyir.
Mənbələr: TechCrunch · The Verge · The Decoder · Engadget
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.