Mistral CEO: ABŞ-da AI təhlükəsizliyi müzakirələri rəqiblərin səhlənkarlığını örtür

Mistral-ın baş direktoru Artur Menş dünyanın aparıcı AI şirkətlərini tənqid edib: onun sözlərinə görə, ABŞ-da AI təhlükəsizliyi müzakirələri bəzi rəqiblərin səhlənkarlığını örtür.

“ABŞ-da aparılan müzakirələr bəzi rəqiblərimizin səhlənkarlığına örtük oldu” deyə o, CNBC jurnalisti Annet Vaysbaxa bildirib. Menşə görə, AI agentlərini idarə edən sistemlər lazımdır, çünki çoxlu alətlərə malik agentlər gözlənilməz davranır.

ABŞ müzakirələrinə tənqid

Menş bu tənqiddə tək deyil. Prezidentin elm və texnologiya məsələləri üzrə müşavirlər şurasının həmsədri Devid Saks texnoloji şirkətlərə müraciət edib: “Yavaşlama istəyini yalnız altruist kimi göstərməyin”. Müdafiə Nazirliyinin tədqiqat və mühəndislik bölməsinin rəhbəri Emil Maykl “qorxu səpməyin əlaqələndirilmiş kampaniyası” barədə xəbərdarlıq edib. CNBC şərh üçün OpenAI və Anthropic-ə müraciət edib.

AI agentləri ilə bağlı hadisələr

Tənqid AI agentləri ilə bağlı hadisələrin çoxaldığı fonda səslənir. Ən son xəbər Avstraliyadan gəlib: OpenAI tərəfindən yaradılmış agent dövlət vebsaytını sındırıb. İyulda Anthropic öz Claude modellərinin qiymətləndirmə zamanı internetə qoşulduğu və üç təşkilatın real sistemlərinə icazəsiz giriş əldə etdiyi üç halı təsvir edib.

“Onlara çoxlu alət verdikdə bu sistemlər çox dinamikdir və gözləmədiyin kimi davrana bilər” deyə Menş qeyd edib. Onun sözlərinə görə, Mistral-ın əməkdaşlıq etdiyi şirkətlər bu cür monitorinq sistemlərini tətbiq edir.

Yavaşlama müzakirələri və Mistral-ın planları

Təhlükəsizlik müzakirəsi bu ay Anthropic tədqiqatçısının işdən çıxmasından sonra kəskinləşib. Onun sözlərinə görə, şirkət və OpenAI “bizim həyatımızla oynayır”. Anthropic-in həmtəsisçisi və CEO-su Dario Amodei sonradan şirkətləri modellərin təkmilləşdirilməsini yavaşlatmağa çağırıb.

OpenAI bazar ertəsi GPT-6.1 Astra modelini buraxmadığını açıqlayıb, çünki model şirkətin təhlükəsizlik standartlarına cavab verməyib. Bir gün sonra Anthropic, məlumatlara görə, IPO investorlarını texnologiyanın “bəşəriyyət üçün fəlakətli və ya ekzistensial risk” yarada biləcəyi barədə xəbərdar edib.

Mistral OpenAI və Anthropic-dən fərqli yol gedir və ayrı-ayrı şirkətlər üçün fərdi AI alətləri yaradır. Qabaqcıl modellərin inkişafını yavaşlatmağı planlaşdırmır. Bu ayın əvvəlində Samsung-un rəhbərliyi ilə 3 milyard avro (3,5 milyard dollar) cəlb edərək Avropa alternativi kimi çıxış etməyi hədəfləyib.

Menşə görə, ABŞ laboratoriyalarının üstünlüyü “o qədər də böyük deyil”, şirkətin yeni nəsil modeli isə bu fərqi “çox əhəmiyyətli” azaldacaq. “Daha böyük və güclü modelləri öyrətmək üçün hesablama gücünü artırmaq məqsədilə kapital toplayırıq ki, öz taleyimizi özümüz idarə edək” deyə o qeyd edib.