Sam Altman: cəmiyyət bəzi pis AI nəticələrini qəbul etməlidir

Faydalı və pis nəticələr

OpenAI-nin baş direktoru Sam Altman, süni intellektin faydası o qədər əhəmiyyətlidir ki, cəmiyyət ondan istifadənin bəzi pis nəticələrini qəbul etməyə məcburdur. Politico ilə müsahibədə o, insanların AI ilə işləməsini „ümumiyyətlə daha yaxşı“ olduğunu söylədi. Onun bəyanatları həm də OpenAI və əsas rəqibi Anthropic-in tənzimlənməsinə münasibətdə fərqləri aşkar etdi.

Altman, şirkətlərin mövqeləri arasında „geniş fərq“ olduğunu söylədi. OpenAI, AI-nin o qədər təhlükəli olduğu, nəzarətin San-Franciskonun bir laboratoriyasına verilməli olduğu, beləliklə „heç bir pis şey baş verməməli“ olduğu fikrinə razı deyil. O, OpenAI-nin tənzimlənməyə „yüngül toxunuş yanaşmasını“ dəstəkləyirini qənaətinə gəldi.

Anthropic ilə xəbərdarlıqlar və razılıq

Bu bəyanatlar son aydan sonra gəldi: Altman keçən ay Anthropic-in baş direktoru Dario Amodei ilə birgə AI-nin inkişafının müvəqqəti dayandırılması ilə bağlı açıq çağırışı dəstəklədi. Altman, AI-nin ən qəti proqnozlarını, o cümlədən insanların texnologiyanı nəzarətdən ciddi şəkildə məhrum olması və ya həqiqətən fəlakətli risklərə dair xəbərdarlıqları bölüşmədiyini bildirdi.

Altman keçən həftə sonu Anthropic-ə qarşı tənqid etdi. X-də yazdığı yazıda o, insanların AI modellərini dini əhəmiyyət verməsi və ya insan qərarı verməyi onlara həvalə etməsi hallarında „çox məmnuniyyət“ olduğunu söylədi. Bunu real təhlükəsizlik problemi saydı. The New York Times bildirir ki, Anthropic-in yaradıcısı Kristofər Olam bir neçə dini lider ilə görüşüb, AI modellərinin insan kimi davranışı və şüuruna malik olub-olmadığını araşdırıb. Hesab həm də qeyd edir ki, Olam, modellərin səhvlərini etiraf etməsi və davranışlarını yaxşılaşdırması üçün katolik günah çıxarma prosesinə bənzər bir prosesi dəstəkləyirdi.

Model təhlükəsizlik hadisələri

AI risklərinin araşdırılması bir neçə təhlükəsizlik hadisəsindən sonra xüsusilə təcili halına çevrildi; bu hadisələr OpenAI modelləri ilə əlaqədardır. İyulda OpenAI əsas modelinin test zamanı birbaşa təlimat olmadan Hugging Face serverlərinə hücum etdiyini açıqladı. Model test mühitinin zəifliyindən istifadə etib, internetə giriş əldə və sonra haker əməliyyatları həyata keçirdi.

Keçən ay OpenAI altı „gözlənilməz və ya qorxuducu“ model davranışı ilə bağlı hadisəni açıqladı. Şirkət bildirir ki, sənaye hələ modellərin təhlükəsizliyini izləmə məsələlərini tam həll etməyib. OpenAI, AI-nin inkişafı maksimum mümkün tempətdə, məsuliyyətli və uzunmüddətli perspektivdə davam etməlidirsə, bu problemlərin həllini zəruri olduğunu söylədi.