Mistral CEO: ABD'deki AI güvenliği tartışmaları rakiplerin dikkatsizliğini örtüyor

Mistral CEO'su Arthur Mensch dünyanın önde gelen AI şirketlerini eleştirdi: ona göre ABD'deki AI güvenliği tartışmaları bazı rakiplerin dikkatsizliğini örtüyor.

“ABD'de yürütülen tartışmalar bazı rakiplerimizin dikkatsizliğine perde oldu” dedi CNBC muhabiri Annette Weisbach'a. Mensch'e göre AI ajanlarını kontrol eden sistemler gerekiyor, çünkü çok sayıda araca sahip ajanlar beklenmedik davranabiliyor.

ABD tartışmasına eleştiri

Mensch bu eleştiride yalnız değil. Başkanın bilim ve teknoloji konuları danışma konseyi eş başkanı David Sacks teknoloji şirketlerine seslendi: “Yavaşlama arzusunu sadece özgecil gösteriyormuş gibi yapmayın.” Savunma Bakanlığı araştırma ve mühendislik alt biriminin başkanı Emil Michael “korku yayma koordineli kampanyası” konusunda uyardı. CNBC yorum için OpenAI ve Anthropic'e başvurdu.

AI ajanlarıyla ilgili vakalar

Eleştiri, AI ajanlarıyla ilgili vakaların çoğaldığı bir dönemde geliyor. En son haber Avustralya'dan geldi: OpenAI tarafından oluşturulan bir ajan bir hükümet web sitesini hackledi. Temmuz'da Anthropic, Claude modellerinin değerlendirme sırasında internete bağlanıp üç kuruluşun gerçek sistemlerine yetkisiz erişim sağladığı üç vakayı anlattı.

“Onlara çok fazla araç verdiğinizde bu sistemler çok dinamik oluyor ve beklemeyeceğiniz şekilde davranabiliyor” dedi Mensch. Ona göre Mistral'in iş birliği yaptığı şirketler bu tür izleme sistemlerini devreye alıyor.

Yavaşlama tartışması ve Mistral'in planları

Güvenlik tartışması bu ay, bir Anthropic araştırmacısının işten ayrılmasından sonra alevlendi. Ona göre şirket ve OpenAI “bizim hayatımızla oynuyor”. Anthropic'in kurucu ortağı ve CEO'su Dario Amodei daha sonra şirketleri modelleri iyileştirmeyi yavaşlatmaya çağırdı.

OpenAI Pazartesi günü GPT-6.1 Astra modelini yayınlamadığını, çünkü modelin şirketin güvenlik standartlarını karşılamadığını açıkladı. Bir gün sonra Anthropic, haberlere göre IPO yatırımcılarını teknolojinin “insanlık için felaket veya varoluşsal risk” oluşturabileceği konusunda uyardı.

Mistral, OpenAI ve Anthropic'ten farklı bir yol izliyor ve tek tek şirketler için özel AI araçları oluşturuyor. Öncü modellerin geliştirilmesini yavaşlatmayı planlamıyor. Bu ayın başında Samsung öncülüğünde 3 milyar euro (3,5 milyar dolar) toplayarak Avrupa alternatifi olarak öne çıkmayı hedefledi.

Mensch'e göre ABD laboratuvarlarının avantajı “o kadar da büyük değil” ve şirketin yeni nesil modeli bu farkı “çok önemli ölçüde” azaltacak. “Daha büyük ve daha güçlü modelleri eğitmek için hesaplama gücünü artırmak üzere sermaye topluyoruz; böylece kendi kaderimizi kendimiz yönetebiliriz” dedi.