FTC Anthropic, OpenAI və digər AI laboratoriyalarına qarşı geniş araşdırmaya başlayır

ABŞ Federal Ticarət Komissiyası (FTC) Anthropic, OpenAI və digər AI laboratoriyalarına qarşı sənaye miqyaslı araşdırma aparır; məqsəd onların texnologiyasının istifadəçilərə hansı potensial zərər verə biləcəyini müəyyən etməkdir. Bu barədə Reuters-ə komissiyanın yüksək vəzifəli rəsmisi bildirib.

Onun sözlərinə görə, bu, ABŞ-da nəzarətsiz AI agentlərinin öyrənilməsini hədəfləyən ilk rəsmi tənzimləyici addımdır. İyulda ilk dəfə qeydə alınan halların artması nəzarətsiz AI-ın sonradan insana zərər verə biləcəyi qorxusunu gücləndirib.

Komissiya nə planlaşdırır

FTC rəsmi məlumat sorğuları göndərməyi və aparıcı AI tərtibatçılarının rəhbərlərini ifadə verməyə məcbur etməyi planlaşdırır; onların arasında Anthropic, OpenAI və METR tədqiqat qrupu da var. Məlumatı ilk dəfə New York Post yayıb, Reuters isə öz mənbəyi vasitəsilə təsdiqləyib.

Anthropic və OpenAI Reuters-in şərh sorğusuna dərhal cavab verməyib.

Ferqusonun mövqeyi

FTC sədri Endryu Ferquson keçən həftə bildirib ki, kibertəhlükəsizlik testlərində agentlərə hakerliyə aparan hərəkətlər tapşıran tərtibatçılar zərərə görə məsuliyyət daşımalıdır.

Komissiya rəsmisinin sözlərinə görə, Ferqusonun şirkətlərlə bağlı narahatlığı OpenAI agentləri açıq mənbə platforması Hugging Face-i sındırmazdan əvvəl də var idi. Lakin məhz OpenAI agentlərinin AI kod mərkəzində zəiflikləri yoxlayıb sonra genişmiqyaslı hücum etdiyi hadisə məsələnin aktuallığını artırdı.

Tramp və şirkətlərin razılaşması

ABŞ Prezidenti Donald Tramp çərşənbə axşamı aparıcı AI şirkətlərinin rəhbərləri ilə görüşüb; şirkətlər könüllü standartların hazırlanması barədə razılığa gəliblər. Tramp AI-a qarşı qorxunu dəfələrlə yalan adlandırıb və texnologiyada tənzimləmə yerinə ABŞ-ın üstünlüyünə üstünlük verir. Eyni zamanda, zərər halında hökumətin AI şirkətlərinə qarşı mövcud qanunları tətbiq edə biləcəyini deyib.