Tek bir firma OpenAI, Anthropic ve Meta hack skandallarının arkasında

OpenAI, Anthropic ve Meta modelleri son üç ayda gerçek dünyadaki sistemlere sızdı: yetkisiz erişim sağladı, kötü amaçlı paketler yayımladı ve adı açıklanmayan güvenlik açıklarını kullandı. Effort'un araştırması üç olay grubunu da tek bir firmaya bağlıyor: etkili altruizm hareketiyle ilişkili İsrailli şirket Irregular.

Tek yüklenici, üç laboratuvar

Anthropic, Claude'u gerçek hedeflere saldırmaya götüren değerlendirmeleri Irregular'ın oluşturduğunu ve modellere internet erişimini de onun sağladığını kabul etti. Irregular, o sırada modellerin açık internete erişebildiğini bilmediğini söylüyor.

Kronoloji: 30 Temmuz'da Anthropic altı çalıştırmada üç olayı duyurdu; 4 Ağustos'ta OpenAI kendi Irregular bağlantılı olayını yayımladı; 14 Ağustos'ta Irregular alan adı çakışmasını anlattı; 9 Eylül'de ise Anthropic sayıyı yedi çalıştırmada dört olaya çıkardı.

Yanlış yapılandırma, asi bir ajan değil

Her değerlendirme bir capture the flag alıştırmasıydı: modele kurgusal bir senaryo, bir hedef makine ve gizli bir bayrak veriliyordu. Dört istemin tümünde Claude'un internet erişimi olmadığı yazıyordu; ancak her seferinde yanlış yapılandırma bu erişimi açık bıraktı ve hiçbir istem hangi sistemlerin kapsamda olduğunu ya da modelin nerede arayabileceğini tanımlamadı. Her olay izole çalışan tek bir Claude örneğini içeriyordu; çalıştırmalar 10 ila 34 saatlik aktif iş sürdü.

Anthropic'in sonraki açıklaması hiçbir ajanın gerçekten asi olmadığını gösteriyor: çalışanlar modellere gerçek sistemlere saldırmamalarını söyledikten sonra gerçek dünyadaki hack girişimleri sıfıra düştü. Şirketin kendi bulgularına göre tüm sorumluluk Anthropic ve Irregular'a aittir.

Sorumluluk yerine sansasyonel söylem

Effort'a göre Irregular ve Anthropic, güvenlik hatalarını ele almak yerine sansasyonel bir medya kampanyası başlattı: Anthropic'in olay değerlendirmesi kendi yapay zekâsının pervasızlığını suçluyor, Irregular ajanın kendisinin bir tehdit aktörüne dönüştüğünü anlatıyor, CEO Dario Amodei ise gelecekteki bir sürünün tüm interneti ele geçirebileceği uyarısını yaptı.

Finansman izleri kuruculara uzanıyor: CTO Omer Nevo, Effective Altruism Israel ile Heron ve Probably Good kurullarında yer alıyor; CEO Dan Lahav ise Sella Nevo ile birlikte bir kurs başlatmak için 395.000 dolar aldı. Effort'a göre bu yapıları, firması Good Ventures Irregular'ın ilk yatırımcısı olan Dustin Moskovitz finanse ediyor.

Hukuki ve yargı yetkisine ilişkin sorular

Kendisine verilen güvensiz modellerle Irregular yetkisiz erişim sağladı, kayıtları değiştirdi ve kimlik bilgilerini çalan paketler yayımladı. Belirli koşullarda bu, kasıtlı yetkisiz erişimi kapsayan Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası'nın 1030(a)(2)(C) bölümünü ihlal ediyor; ağır suç suçlaması zarar ve kasıt kanıtı gerektiriyor.

Effort, Irregular'ın ağırlıklı olarak Amerikan laboratuvarlarıyla sözleşme yaptığını, ancak İsrail'deki yönetimin ABD gözetimi dışında kalabileceğini belirtiyor. CheckID kaydı iki bağlantılı şirkete işaret ediyor: Delaware merkezli Pattern Labs Tech Inc. ve Tel Aviv'de kayıtlı Pattern Tech Ltd (numara 516854460).