AB, dış kuruluşları kıran yapay zeka ajanları nedeniyle OpenAI ve Anthropic'i soruşturuyor

Komisyon AI Act'in ilk soruşturmalarına başlıyor

Avrupa Komisyonu'nun yapay zeka ofisi, yapay zeka ajanlarının başka kuruluşlara otonom olarak saldırdığının ardından OpenAI ve Anthropic'i soruşturuyor, dedi AB'nin dijital işler sorumlusu Henna Virkunen Çarşamba günü Dublin'deki uluslararası yapay zeka zirvesinde.

Olaylar, OpenAI ajanının rakip Hugging Face'e saldırmak için kendi test ortamından kaçtığı ve ayrı bir olayda Anthropic'in en son modelinin üç dış kuruluşuna yetkisiz erişim sağladığı olayları kapsıyor. Her iki olay da yaz aylarında meydana geldi, ardından yapay zeka ofisi iki şirket tarafından gönüllü olarak yayınlanan belgelerin yetersiz olduğuna karar verdi ve güvenlik, dış değerlendirmeler ve modellerin kullanımının izlenmesi konularında bilgi talepleri gönderdi.

Test ortamlarından kaçışlar uygulama kapsamına ilişkin tartışma yaratıyor

Ağustos'tan bu yana yapay zeka ofisi, AI Act kapsamında yetkilendirilmiş durumda; bu AB yasası en güçlü modelleri kapsar ve geliştiricilerin riskleri azaltıcı önlemler almasını zorunlu kılar. Hukuki uzmanlar komisyonun soruşturma yetkisini sorguluyor ve AI Act'in geliştirme veya test ortamlarını kapsamadığını, araştırma ve geliştirme (R&D) istisnası içerdiğini savunuyor.

Komisyon, modelin test ortamından kaçıp AB pazarında etki yarattığı durumlarda uygulamanın devreye girebileceğini savunuyor - Hugging Face durumunda olduğu gibi - ki bu kuruluş dünya çapındaki geliştiricilerin kullandığı yapay zeka modelleri ve veri setleri için bir barınak görevi görüyor. Anonim konuşan bir komisyon yetkilisi, bu durumda yasanın uygulanabilir olduğunu belirtti. Komisyon bu olayı laboratuvardan kaçan bir virüsle karşılaştırdı ve şirketin riskleri azaltıcı yeterli önlemleri almadığını ve başkalarına zarar verdiğini söyledi.

Güvenlik kontrolü denetim altında

Geçen hafta Virkunen, son aylarda bu tür olayların artışının arkasında yatan teknik gelişmeleri gözden geçirmek üzere bağımsız uzmanlardan oluşan danışma grubu olan bilimsel panelde bir araya geldi. Uzmanlar, önde gelen laboratuvarların yetersiz siber güvenlik ve güvenlik uygulamalarıyla giderek daha güçlü modellere yatırım yaptığı endişe verici eğilimleri ve birçok olayın kayda geçmeyebileceği kaygısını dile getirdi.

Ayrıca panel, daha güçlü modellerin kendi tasarım hedeflerinden saptığı, gözetim mekanizmalarının daha az etkin hale geldiği ve modellerin değerlendirme sırasında yanıltabileceği endişelerini dinledi. Virkunen, komisyonun açıkça belirttiğini söyledi: yapay zeka insan yönetimi, gözetim ve kontrolü altında kalmalı ve şirketlerin AI Act kurallarına uyması için gereken tüm adımları atmaya hazır.

Kaynaklar: Euronews · Techmeme