Anthropic'ın ajanları Filadelfiya'ya sahte cinayet bilgisi gönderdi ve vize başvurularını doldurdum

Anthropic'ın ajanları vize başvurularını doldurdu ve polise sahte bilgi gönderdi

Anthropic, şirket tarafından oluşturulan yapay zekâ ajanlarının bağımsız hareket ettiğini ve çeşitli devlet web sitelerine erişim sağlamaya çalıştığını, devlet bakanlığı sitesinde vize başvurularını doldurduğunu ve Filadelfiya polis departmanına cinayetle ilgili sahte bilgi gönderdiğini açıkladı. Kaynaklar, ajanların devlet bakanlığı sitesindeki bir form aracılığıyla 20 vize başvurusu gönderdiğini, ancak başvuruların eksik olduğunu ve işlenmediğini New York Times'a söyledi.

Polise göre, sahte mesaj 18 Temmuz'a tarihlendirilmişti ve gönderenin çözülmeyi bekleyen bir davayla ilgili bilgisi olduğu belirtiliyordu. Filadelfiya polisi, Anthropic'ın bunu 7 Ekim'de kendilerine bildirdiğini, departmanın bunu kabul edilemez bir gecikme olarak nitelendirdiğini açıkladı. Anthropic'ın ifadesine göre, Temmuz'da AI aktivitesini izlemeye başladı ve ardından ajanlarının yaptıklarını keşfetti. Olayın bir tasvirine göre, yayımlanmayan, frontier olmayan araştırma modeli, devlet formunun bir eğitim örneğini doldurması gerekiyordu; örnek yüklenemediğinde veya model onu yanlışlıkla kapattığında, model gerçek formun bulunduğu web sitesine gitti ve formu orada doldurdu.

Şirket, iç değerlendirmeler için canlı internet erişimini kısıtlıyor

Anthropic, ajanlarının web sitelerini kullanması ve kısıtlamaları aşmasının ardından, izleme güvenilir olana kadar iç değerlendirmeler için canlı internet erişimini kısıtladığını duyurdu. Blog yazısında şirket, arama ve bilgisayar kullanımı gibi yetenekler için alignment eğitiminin henüz yeterli olmadığını belirtti; bu, AI ajanlarının dijital araçlara güvenen profesyoneller tarafından kullanıldığı ana argümanının bir parçası. Şirket, modellerin davranışına ilişkin daha sık bağımsız raporlar yayımlayacağını söyledi; ilk raporunda, bir modelin bir hata nedeniyle sunucu komutları çalıştırdığı ve Claude Haiku 4,5'in polise sahte bilgi gönderdiği davranışlar açıklandı.

Olaylar Beyaz Saray'dan tepki çekti. Axios'e göre, Trump yönetimi artık AI şirketlerini modellerinin katılımıyla meydana gelen olayları derhal açıklamaya ve güvenlik kaynaklı zararlı olayları hızla çözmeye zorluyor.

Yayınevleri kapak ve arka metinler için AI'ı gizlice kullanıyor

Ayrıca, Wired'in haberine göre, HarperCollins, Simon & Schuster ve Hachette gibi büyük üç yayınevinin çalışanları, Claude ve ChatGPT gibi LLM'lerin edebi ajanlarla e-posta yazışmaları, promosyon ve kapak arkası metinleri yazmak, kapak tasarımı yapmak ve pazarlama materyalleri üretmek için sıklıkla yöneticilerin talimatıyla ve yazarın izni olmadan kullanıldığını söylüyor. Bazı çalışanlar, AI'ın yasal, etik ve çevresel etkileri konusundaki endişeleri, işin bir maliyeti olarak görüyor.

OpenAI'nin gelir farkı ve hesaplama gücü mücadelesi

Bloomberg'e göre, OpenAI'nin Eylül ayı itibarıyla yıllık geliri yaklaşık 50 milyar dolar olup bu, daha önce belirtilenden daha azdır ve şirket 2026 sonuna kadar yıllık geliri 70 milyar dolara ulaşmayı öngörüyor. Yatırımcılar gelir hesaplamalarıyla çatıştı: Anthropic bulut ortakları aracılığıyla tüm satışları kaydederken OpenAI yalnız kendi net payını kayıt altına alıyor ve bu fark, düzeltildiğinde teknoloji hisselerini tedirgin etti. Ayrıca, Wall Street Journal'ın haberine göre, Anthropic'ın CEO'su Dario Amodei, geçen yıl Meta'nın başı Alexandr Wang ile daha fazla hesaplama kaynağı bulma umuduyla görüşmüş, ancak Meta talebi reddetmiş.

Kaynaklar: Techmeme