Ro Khanna rekursiv AI modellərini qadağan edən təhlükəsizlik layihəsini təqdim edəcək

Demokrat konqresmen Ro Khanna süni intellekti tənzimləyən qanun layihəsi təqdim edəcək. Layihə sərt məsuliyyət standartlarını və hökumət qoruyucu mexanizmlər yaradana qədər "rekursiv", özünü təkmilləşdirən AI modellərinin qadağan edilməsini nəzərdə tutur. Xülasə CNBC-yə eksklüziv olaraq verilib.

Təşəbbüs Vaşinqtona təzyiqin artdığı bir vaxtda gəlir: texnoloji şirkətlərin rəhbərləri inkişaf etmiş AI-ın insan nəzarətindən çıxa biləcəyi barədə xəbərdarlıq edib. Konqres bu texnologiya üçün hərtərəfli qaydalar hələ qəbul etməyib.

Nəzarətin itirilməsi riski

"Əslində sivilizasiyanın məhvi riski var", deyə Khanna CNBC-yə müsahibəsində bildirib. "Nəzarətin itirilməsindən yaranan təhlükəsizlik riski, bir də sui-istifadə riski var və hər ikisini ciddi qəbul etməliyik". Human Control Over AI Act adlanan layihə rekursiv şəkildə özünü təkmilləşdirən və ya öz əsas məqsədlərini, nəzarət və söndürmə mexanizmlərini müstəqil dəyişən modelləri, federal təminatlar yaranana və agentlik bu fəaliyyəti təsdiqləyənə qədər qadağan edir.

Yeni federal agentlik

Layihə OpenAI, Anthropic, Google DeepMind və xAI-ın sərhəd modelləri üçün federal agentlik yaradır. Agentlik təhlükəsizlik qaydaları hazırlayacaq, modellərin öyrədilməsi və yerləşdirilməsi üçün lisenziyalaşdırma tətbiq edəcək, audit aparacaq və davamlı testləmə ilə effektiv insan nəzarəti üçün standartlar müəyyən edəcək. Hər laboratoriyada müstəqil auditorlar çalışacaq və birbaşa agentliyə hesabat verəcək. Standartlar sandbox test mühitini, internetdən təcrid olunmuş mühiti, söndürmə düymələrini və laboratoriyadan qaçmağa mane olan mexanizmləri əhatə edəcək. Agentlik qabaqcıl çipləri də tənzimləyəcək.

Cəzalar, sığorta və siyasət

Layihə mülki əhalinin məhvinə səbəb olan yerləşdirmələri "insanlıq əleyhinə cinayət" sayacaq, qoruyucu mexanizmləri, söndürmə düymələrini, jurnallaşdırmanı və ya saxlama sistemlərini söndürən yaxud icazəsiz sistemi bilərəkdən işə salan AI işçilərinə cinayət məsuliyyəti tətbiq edəcək. Şirkətlər modellərini buraxmazdan əvvəl geniş məsuliyyət sığortası almalı olacaq. Sənəd həmçinin administrasiyanı Çini və digər rəqibləri çəkindirmək üçün icra edilə bilən razılaşmalar və hədəflənmiş ixrac nəzarəti həyata keçirməyə çağırır.

Khanna bunu indiyədək təklif olunan "ən hərtərəfli AI təhlükəsizliyi qanunvericiliyi" adlandırıb və böyük AI şirkətlərinin tələbləri yerinə Model Evaluation and Threat Research, Machine Intelligence Research Institute və Palisade Research təşkilatları ilə söhbətlərə əsaslandığını deyib. "İstəyirəm ki, bu, AI təhlükəsizliyi icmasına səs verən model olsun", deyə o bildirib. Təşəbbüs digər təkliflərə, o cümlədən konqresmenlər Cey Obernolte və Lori Trahanın iki partiyalı FRONTIER Act layihəsinə qoşulur. Palatada aralıq seçkilərdən əvvəl səsvermə gözlənilmir, Senat da bu həftədən sonra Vaşinqtonu tərk edəcək.