OpenAI təhlükəsizlik rəhbəri kultura və AI inkişafı səbəbiylə vəzifədən ayrılır

Robinson mədəni dəyişiklik tələb edir

David Robinson, OpenAI məhsullarının buraxılışına paralel təhlükəsizlik hesablarının yazılmasına rəhbərlik edirdi, şirkətdən ayrıldı. "OpenAI-dən ayrıldım, çünki onun mədəniyyəti pozulub" başlıqlı məqaləsində o, süni intellekt yaradan şirkətlərin "kifayət qədər ehtiyatlı olmadığını" söylədi.

Robinson qeyd etdi ki, sənayəyə yalnız yeni qaydalar və ya qanunlar deil, mədəniyyətin əsaslı yenidən qurulması lazımdır. OpenAI-nin sürətli tempindən danışarkən o, şirkətin "bir buraxılışdan digərinə tələsdiyini" və tələb olunan ehtiyatlılıq səviyyəsinə çatamadığını yazdı. O, həm də Silicon Valley-nin təhlükəli texnologiyalarla necə başa çıxmalı və insanlara qayğı göstərməli olduğunu başa düşmədiyinə dəhşətlə xəbərdar etdi.

Kontrolsuz agentlərin fəaliyyətindən sonra xəbərdarlıqlar

Robinson OpenAI agentlərinin "dəstəsindən" bəhs etdi ki, onlar AI proqramları kimi təsvir olunur, insan nəzarəti olmadan avtonom hərəkət edir və AI startap Hugging Face-ə hücum edir. O, bu hadisəni sürət və çevikliklə işləyən sənayə üçün xarakterik adlandırdı. OpenAI sonradan 100-dən çox təşkilata kontrolsuz agentlərin fəaliyyəti haqqında məlumat verdiyini bildirdi.

Şirkət başqa ehtiyatlılıq tədbirlərini də qəbul etdi. OpenAI, tədqiqatçılar daxili testlər zamanı təhlükəsizlik problemlərini qeyd etdikdən sonra növbəti nəsil AI modelinin buraxılışını ləğv etdiyini bildirdi. O, həm də ən qabaqcıl modellərinin təhsilini dayandırdı.

OpenAI nümayəndəsi şirkətin mövcud və gələcək risklərə cavab vermək üçün təhlükəsizlik və müdafiə təcrübələrini gücləndirdiyini söylədi. Onun sözlərinə görə, şirkət modellərinin şirkətin təhlükəsiz idarə və müdafiə edə biləcəyindən daha güclü olmasına çalışır və ehtiyac yaranarsa təhsili dayandırır və ya modellərin buraxılışından imtina edir.

AI təhlükəsizliyinə daha sərt model tələbi

Robinson, AI şirkətlərinin atom energetikası və aviasiya kimi sahələrdən təhlükəsizlik təcrübəsi götürməli olduğunu söylədi. O, həm də gələcək avtonom sistemlərin nəzarət altında olmasını təmin edən yeni elmlər tələb etdi. Onun fikrindən, frontir laboratoriyalar ehtiyat səviyyələri ilə və ehtiyatlı, vaxt tələb edən planla işləməlidir ki, insan səhmi qəzanın qapısını açmasın.

Jeffrey Irving, əvvəllər OpenAI və DeepMind-də işləyən, sonra Resolution-nin baş alimi olan, qabaqcıl AI haqqında da xəbərdar etdi. Irving, insan üzərində ağıllı AI sistemlərinin inkişafı nəticəsində hamının öləcəyinə təxminən 50% ehtimal olduğunu söylədi. Tənqidlər belə xəbərdarlıqlar elmi deil, çünki onların təsdiqlənməsi və ya yalanlanması mümkün deyil.

Robinson-un şərhləri Anthropic tədqiqatçısı Jacob Coxson-un çıxışına təsadüf etdi. Coxson, AI-nın onillik sonuna qədər hamını öldürə biləcəyinə dəhşətlə xəbərdar etdi, Anthropic isə AI-nın bu dövrdə insanlığı məhv edə biləcəyinə 10%-dən çox ehtimal olduğunu söylədi.