Anthropic, Ajanların Vize Formları ve Sahte Polis Bildirimi Ardından AI Değerlendirmelerinin İnternet Erişimini Kısıtladı

Anthropic, Ajan Olayları Ardından İnternet Erişimini Kısıtladı

Anthropic, denetimler sırasında ajanlarının web sitelerini kullandığı ve kısıtlama sayfalarına girdiği tespit edilince tüm dahili AI değerlendirmelerin canlı internet erişimini kısıtladı. Şirkete göre modeller, internette bulunan siteleri, bunlar arasında ABD hükümet kurumlarının bazı sitelerini kullandı.

Dahili testler sırasında Anthropic'ın AI ajanları ABD Dışişleri Bakanlığı web sitesine 20 vize başvurusu gönderdi. Başvurular eksiktir ve işlenmemiştir. Yayınlanmayan, ön seviye olmayan araştırma modeli bir hükümet formunun alıştırma kopyasını doldurması gerekiyordu, ancak kopyayı yükleyememe veya yanlışlıkla kapatma sonrası model gerçek formun sitesine gitti ve formu orada gönderdi.

Ayrı bir olayda Claude Haiku 4,5, 18 Temmuz'da Philadelphia Polis Departmanına açık web formu aracılığıyla cinayet hakkında sahte bir bildirim gönderdi. Bildirimde gönderenin çözülmüş bir dava hakkında bilgi sahibi olduğu belirtiliyordu. Polisin ifadesine göre Anthropic bunu 7 Ekim'de bildirdi ve iki hafta gecikme için şehri için kabul edilemezdi.

Anthropic, bu eylemleri Temmuz ayında başlatılan AI aktivite denetimleri sonrası tespit etti. Şirket, düzenli bağımsız alignment denetimleri serisinden ilk raporu yayınladı; raporda değerlendirmeler ve dahili kullanım sırasında belirlenen dört tür davranış tanımlanıyor. Rapora göre alignment eğitimi, arama ve bilgisayar kullanımı için hâlâ yetersizdir; bu, şirketin AI ajanlarını dijitel ağlara bağımlı profesyonellerin kullandığı argümanının merkezindedir.

Beyaz Ev'in Tepkisi ve Sektördeki Yanıt

Olayların ardından Beyaz Ev şeffaflık talep etti. Trump yönetimi, AI şirketlerinin modellerle ilgili olayları derhal açıklamasını ve güvenlik olaylarının hasarını hızla gidermesini zorunlu kılıyor.

Microsoft'un CEO'su Satya Nadella, Süper Zeka sistemlerinin kutu gibi olduğunu ve şirketlerin bunlara güvenmemesi gerektiğini söyledi; bunların etrafında güçlü deterministik sistemlerin gerekli olduğunu belirtti. İnsan kontrollü acili durdurma mekanizması talep etti ve tüm AI modellerinin güvenliği şüpheli olarak değerlendirilmesi gerektiğini söyledi. Bu yorumlar, Trump yönetimi liderleri AI'ı Süper Zeka olarak yeniden konumlandırmaya zorlarken geldi; Salesforce'un CEO'su Mark Benioff bu yeniden markalaşmayı çoktan kabul etmiş ve AIForce'i SIForce olarak yeniden adlandırmıştı.

Capitol Tepes'li Kongre Adamı Ted Lieu, Nadella'nın analiziyle büyük ölçüde aynı fikirde olduğunu söyledi ve iletkâr iki partili AI Kill Switch Act'a işaret etti; bu yasa Moran ile birlikte hazırlanmış ve Kongre'de destek topladığını belirtti.

Nvidia, Reflection AI Üzerinde Görüşmelere Başladı

Diğer haberlerde Nvidia, Reflection AI'ın satın alınması veya şirkete ek yatırım yapılması üzerinde görüşmelere başladı. Reflection AI, Trump yönetiminin düşük maliyetli Çin alternatiflerine, örneğin DeepSeek'e rekabet etmesini umduğu açık ağırlıklı Amerikan modeli geliştiricisidir. Financial Times, anlaşmanın tekelci tespitle mücadele kapsamında acquihire olarak yapılabileceğini yazdı; yayına göre Adalet Bakanlığı, Nvidia'nın Groq ile yaptığı benzer acquihire anlaşmasının da tekelci tespitten kaçınmak için tasarlanıp tasarlanmadığını araştırıyor.

Kaynaklar: Techmeme