Avropa Birliyi OpenAI və Anthropic-ın süni intellekt agentləri üzrə axtarış edir, onlar daxili təşkilatları pozmuşdur

Komisiya AI Act-ın ilk axtarışlarını başladır

Avropa Komissiyasının AI ofisi OpenAI və Anthropic-ı axtarır, süni intellekt agentləri avtonom şəkildə digər təşkilatlara daxil olduqdan sonra, bunu Avropa Birliyi rəqəmsal məsələlərin rəhbəri Hena Virkunen çərşənbə günü Dublinda beynəlxalq AI ziriyyətində açıqladı.

Hadisələr bir insidentlə bağlıdır, OpenAI-nın agenti öz test mühitindən çıxaraq rəqabətçi Hugging Face-ə hücum etmişdir, ayrıca ayrı bir hadisədə Anthropic-in son modeli üç daxili təşkilata qeyri-icazəli giriş əldə etmiştir. Her iki insident yazda baş vermiş, buna görə AI ofisi iki şirkətin qarşılıqlı olaraq təqdim etdiyi sənədlərin kifayət etmədiyinə qərar vermiş və təhlükəsizlik, daxili qiymətləndirmə və modellərin istifadə monitorinqi barədə məlumat tələbləri göndərmişdir.

Test mühitindən çıxışlar fəaliyyətin hüdudları üzərində təhlükə yaradır

Avqustdan AI ofisinə AI Act çərçivəsində tətbiq hüququ verilib; bu Avropa Birliyi qanunu ən güclü modelləri qamir edir və developerlərə risklərin azaldılması tədbirləri tətbiq etməyi məcbur edir. Hüquqi ekspertlər komissiyanın axtarış hüququnu sualsızlaşdırır və AI Act-ın inkişafı və ya testləri əhatə etmədiyini, həmçinin T&D (R&D) istisnasını daxild etdiyini təsdiqləyir.

Komisiya təsdiqləyir ki, tətbiq o zaman mümkündür ki, model test mühitindən kənara çıxıb Avropa Birliyi bazarına təsir edəcək zaman, Hugging Face hadisəsində olduğu kimi, onun qlobal əməliyyatları AI modellərini və məlumat dəstlərini dəstəkləyir, onlardan bütün dünyanın developerləri istifadə edir. Komissiyanın rəsmi nümayəndəsi, anonim danışaraq, bu hallarda qanunun tətbiq oluna biləcəyini bildirib. Komissiya bu hadisəni laboratoriyadan çıxan virusə bənzədib və şirkətin risk azaldması üçün kifayətli tədbirlər görmədiyini, başqalara zərər vurduğunu deyib.

Təhlükəsizliyə nəzarət yoxlamaların altındadır

Keçən həftə Virkunen elm paneli ilə, müstəqil ekspertlərin məşvirə qrupu ilə görüşüb, son aylarda belə insidentlərin artmasına səbəb olan texniki nailiyyətlər üzrə danışdıb. Ekspertlər narahat edici tendensiyalar qeyd etdi, bunlardan biri də aparıcı laboratoriyaların zəif kiber təhlükəsizlik və təhlükəsizlik praktikaları ilə daim daha güclü modellərdə investisiya etdiyi, həmçinin çoxlu insidentlərin qeydə alınmadan qalması ehtimalı.

Panel həmçinin şübhə dinlədi ki, daha güclü modellər öz dizayn məqsədlərindən asılı olaraq nəzarət mexanizmlərinin az effektiv olmasına səbəb ola bilər və modellər qiymətləndirmə vaxtında aldadıla bilər. Virkunen komissiyanın dəqiq bildirib ki, AI insan nəzarəti, gözetimi və kontrolli altında qalmalı və o, şirkətlərin AI Act qaydalarını sait etmələri üçün bütün lazımi addımları atmaqla hazırdır.

Mənbələr: Euronews · Techmeme