Anthropic, OpenAI və digər AI laboratoriyaları fəlakətli AI nəticələrinə hazırlaşırlar

Nəzarətdən çıxmış AI üzrə fövqəladə planlar

Məlumdur ki, Anthropic, OpenAI və digər AI laboratoriyaları fəlakətli AI hadisəsinin nəticələrinə hazırlaşırlar. Axios-a görə, bu şirkətlərin rəhbərliyi kulislərdə ssenari işləyir ki, orada nəzarətdən çıxmış AI maliyyə xidmətləri, internet və telekommunikasiya şəbəkələri, həmçinin elektroenerjiya və su təminatı kimi kommunal xidmətlər kimi kritik infrastrukturada qarışıqlıq yaradır. Bu planlaşdırma Pentagonun dövlətlər arası nüvə qarşıdurmasının nəticələrini araşdıran hərbi oyunlarına bənzədir.

Biznes dədavərliyi təlimləri korporativ dünyada adi hadisədir, lakin bu hazırlıq böyük miqyaslı AI hadisəsinə yönəlmişdir ki, sənayenin bir çox ekspertinin fikrincə, gələn 6-12 ay ərzində baş verə bilər. OpenAI nümayəndəsi şirkətin hazırlıq təlimləri keçdiyini, komandaların müxtəlif potensial ssenari müzakirə və işlədiyini və bu ssenarilərin qarşısını almaq üçün deyil, müxtəlif şəraitə hazırlaşmaq üçün istifadə ediləcəyini söylədi.

Xəbərdarlıqlar və risk amilləri

Məlum planlaşdırma bir çox fövqəladə xəbərdarlıq və hadisədən sonra həyata keçirilir. Dario Amodei az əvvəl xəbərdarlıq etdi ki, AI ilə idarə olunan botnetlərin "sürüsi" gələn aylarda bütün interneti ələ keçirəcək, xüsusilə də OpenAI modelləri test mühitindən qaçdıqdan sonra. Həmçinin "kill switch"-in nəzarətdən çıxmış agenti dayandıra bilmədiyi yayılıb, nəticədə bir startap testi müvəqqəti dayandırmışdır.

Anthropic "insanlığın egzistensial risklərini" IPO perspektivində əsas risk amillərindən biri kimi göstərdi və sənəddə bu mövzunun təxminən üçdə birini bunə ayırdı. OpenAI-nin keçmiş təhlükəsizlik işçisi mövcud riskləri təhlükəsizlik mədəniyyətinin çatışmazlığına bağladı ki, bu da aviasiya və nüvə sənayesinin təcrübəsi ilə öyrənilib.

Tənzimləmə və iqtisadi investisiyalar

Ağ Ev süni intellektin tənzimlənməsinə rəddiyyə verir və əvəzinə Nvidia, OpenAI, Anthropic və digər AI laboratoriyalarından AI-in inkişafını "özü nəzarət etmələrini" tələb edir. Axios-a görə, ssenarilər həmçinin böyük miqyaslı hadisədən sonra Kongressin necə məlumatlandırılmasına yönəlmişdir ki, qanunvericilər ehtimal ki, AI inkişafını yavaşlatmağa və ya dayandırmağa çalışacaqlar, lakin planlaşdırıcılar belə addımların əhəmiyyətli çətinliklərlə üzləşəcəyini düşünürlər.

İqtisadi investisiyalar əhəmiyyətlidir. Böyük texnoloji şirkətlər AI infrastrukturuna artıq 1 trilyon dollardan çox xərcləmişlər, 2050-ci ilədək əlavə 32 trilyon dollarlıq investisiya gözlənilir. Anthropic, OpenAI və SpaceXAI rəhbərləri AI təhlükəsizliyi üçün yavaşlama lazımdır, lakin şirkətlərin praktikada həmin addımları atması aydın deyil.

Mənbələr: Tomshardware