Trump-un AI təhlükəsizliyi sazişi şirkətlərin özünə nəzarətinə əsaslanır

Altı aparıcı AI şirkəti bu həftə ABŞ hökuməti ilə “Super Intelligence ilə bağlı Ağ Ev sazişi”ni imzalayıb. Sənəd könüllü öhdəlikləri əhatə edir və o, Prezident Donald Trump-un təşkil etdiyi nahardan sonra elan olunub. Onu Google, Anthropic, Meta, OpenAI, xAI və NVIDIA imzalayıb; Ars Technica-ya görə, sazişə iyirmiyə qədər texnologiya şirkəti qoşulub.

Saziş şirkətləri bir neçə tədbirin tətbiqinə çağırır: daxili nəzarətin gücləndirilməsi, bu iş üçün daxili komandanın ayrılması, müstəqil xarici müşahidəçinin cəlb edilməsi və direktorlar şurası yanında komitənin yaradılması. Ars Technica əlavə edir ki, auditlər kibertəhlükəsizliyə, biotəhlükəsizliyə, kimyəvi təhlükələrə və AI modellərinin gözlənilməz hərəkətlərinə yönələcək. Şirkətlər həmçinin müntəzəm görüşlər və ümumi standartların hazırlanması barədə razılığa gəliblər.

Hüquqi öhdəliklər olmadan

Sazişin hüquqi qüvvəsi yoxdur. Trump onu “mənəvi cəhətdən məcburi” adlandırıb və deyib ki, o, “müəyyən mənada konstitusiyaya bənzəyir”. Sənəddə deyilir ki, tövsiyələrin qanunvericilikdə əks etdirilməsi məqsədəuyğun ola bilər, lakin müddətlər göstərilməyib. Ars Technica-ya görə, Anthropic, Google və OpenAI xarici auditlərlə bağlı öhdəliyi artıq əvvəl götürmüşdü. Auditin kim tərəfindən aparılacağı bəlli deyil: Bloomberg-ə görə, Trump prosesdən siyasi məqsədlə istifadə edir, bəzi şirkətlər isə üçüncü tərəfin nə sayılacağını anlamır.

Şirkət rəhbərləri nə deyir

Ağ Evdə altı imzalayanın hamısı planı tərifləyib. Meta-nın Mark Zuckerberg onu “başlanğıc və bütün sənayenin qoşula biləcəyi saziş” adlandırıb, OpenAI-nin Greg Brockman deyib ki, öhdəliklər AI-ı hamının xeyrinə çevirir. NVIDIA-nın Jensen Huang anı “tarixdə ən böyük sənaye inqilabı” adlandırıb, xAI-ın Elon Musk isə “bolluq dövrü” proqnozlaşdırıb. Anthropic-in Dario Amodei qeyd edib ki, texnologiyanın “çox real riskləri var və onlarla mübarizə apardığımız mexanizm hələ də müzakirə mərhələsindədir”.

Tənqid və araşdırma

Tənqidçilər şübhə edirlər ki, könüllü öhdəliklər problemi həll edə biləcəkmi. AI sənayesi mənbələri Axios-a bildirib ki, özünütənzimləmə sənayenin təhlükəsizlik problemlərini həll edə bilməz. Ars Technica qeyd edir ki, son vaxtlar agentləri bir neçə insidentə səbəb olan OpenAI hələ də təhlükəli AI-ın təlim mühitindən qaçmasının qarşısını necə alacağını bilmir. Elə həmin gün FTC Anthropic və OpenAI agentlərinin istehlakçılara zərər riskləri ilə bağlı geniş araşdırma elan edib. FTC-nin keçmiş baş texnoloqu Neil Chilson X-də yazıb ki, belə öhdəliyi FTC nəzəri olaraq işə sala bilər, əgər şirkət onu yerinə yetirməsə. FTC-nin ictimaiyyətlə əlaqələr üzrə keçmiş rəhbəri Douglas Farrar isə daha az optimistdir: “Şübhə edirəm ki, onun AI şirkətləri ilə dünənki ‘sevgi bayramı’ndan sonra Trump real hüquqi addımlar atacaq.”

Mənbələr: WIRED · Ars Technica · The Verge