
Araştırmacı, Yapay Zekâ Tedarik Zincirine 2 Milyon Dijital Tuzak Yerleştirip Gizlilik İhlalleri Buldu
Araştırmacı HD Moore, geniş bir yapay zekâ hizmetleri ağında gönderilen istemlere yaklaşık iki milyon benzersiz ve izlenebilir sır yerleştirerek güvenlik ihlalleri, istem çalınması ve müşteri verisini korumadaki yaygın başarısızlıkları buldu.
Araştırmacı HD Moore, geniş bir yapay zekâ hizmetleri ağında gönderilen istemlere yaklaşık iki milyon benzersiz ve izlenebilir sır yerleştirerek güvenlik ihlalleri, istem çalınması ve müşteri verisini korumadaki yaygın başarısızlıkları buldu. Güvenlik firması Dragos'un baş araştırma sorumlusu Moore, Perşembe günü bulgular hakkında yazdı.
Deney nasıl işledi
Moore, boş hesaplara bağlı AWS erişim anahtarları, SSH gibi hizmetlerin parolaları ve benzersiz URL'ler, DNS adları ile özel git depo referansları oluşturdu. Bunların hiçbiri daha önce kullanılmamıştı ve o, bunları kullanan istekleri alan altyapıyı kontrol ediyordu. Her sırrı, tek bir sağlayıcıya gönderilen tam olarak bir isteme yerleştirdi.
Birçok yapay zekâ uygulaması, istemleri çıkarım motorlarına yönlendiren OpenRouter veya Vercel gibi komisyoncu hizmetleri, yani yapay zekâ yönlendiricileri veya ağ geçitlerini kullanıyor. İstemler aktarım sırasında şifrelenir ama her adımda çözülür ve her tarafın bunları politikasına göre günlüğe kaydetmesi ve saklaması olasıdır.
İhlaller, yeniden satıcılar ve gizlilik bayrakları
En az üç yapay zekâ sağlayıcısı, istemleri çekip alan saldırganlar tarafından ele geçirildi. Bir saldırgan "birkaç yüz" AWS anahtarını yeniden kullandı ve Ekim sonundaki belirli zaman aralıklarında gönderilen her istek çalındı. Bazı anahtarlar, model çalışmadan önce reddedilen isteklerden geldi; bu da sağlayıcının ön kapısında kopyalama yapıldığını gösteriyordu.
Birden fazla yeniden satıcı istemleri günlüğe kaydetti ve kimlik bilgilerini kullanan kişilere aktardı. Moore, aynı modeli farklı satıcılar üzerinden istek göndererek onları belirledi. Bazı sağlayıcılar da Zero Data Retention veya "veri toplanmaz" gibi gizlilik bayraklarına uymadı.
Diğer iki ihlalde, çalınan bazı istekler Zero Data Retention olarak işaretlenmişti. Saldırganlar anahtarları test etti, bazen birkaç saat içinde, S3 kovalarını, gizli bilgi yöneticilerini ve parametre depolarını aradı, AWS Bedrock'ta barındırılan modelleri etkinleştirmeye çalıştı ve kendi IAM kullanıcılarını ekledi. Çalınan anahtarlar AWS API çağrılarında "on binlerce" kez kullanıldı.
URL kazıma ve OpenRouter güncellemesi
Bir Çin yapay zekâ laboratuvarı, Temmuz ile Ekim arasında modellerine gönderilen istemlerin yarısından fazlasındaki gizli URL'leri çekti; bunların yaklaşık üçte ikisi "veri toplanmaz" veya Zero Data Retention olarak işaretlenmişti. Kazıyıcı genellikle iki veya üç gün sonra ortaya çıktı. ABD'deki birkaç barındırma sağlayıcısı bu laboratuvarın modellerini yeniden satıyor ve onlara gönderilen istemler aynı kazıyıcıyı tetikledi.
Daha sonra bir git istemcisi, istemlerde referans verilen özel depoları klonlamaya çalıştı, ama yalnızca bu laboratuvarın modellerini kullanan istemler için. Bir ABD barındırma sağlayıcısı, tek bir çıkarım çağrısından iki aydan fazla süre sonra gizli bir URL'yi taradı; başka biri her istekten günler sonra URL'lere geri döndü.
OpenRouter, araştırmayı kaynak göstererek bazı istemlerin okunmuş olabileceğini müşterilere bildirdi. Olası etkilenme, doğrudan veya AtlasCloud, Novita ve StreamLake yeniden satıcıları üzerinden Çin merkezli model sağlayıcısı MiniMax'a gönderilen istemleri kapsıyordu. OpenRouter, MiniMax model uç noktalarından "Zero Data Retention" etiketini kaldırdı.
Kullanıcılar ne yapabilir
Sızıntıyı önlemenin en etkili yolu modelleri yerinde barındırmaktır, ancak bu pahalıdır. Aksi halde Moore, tek bir sözleşme ve gizlilik politikasıyla birinci kademe bir sağlayıcıdan doğrudan hizmet almayı önerir. Bu, sızıntı olmayacağı anlamına gelmez, ama olasılığı en aza indirir. Kullanıcılar ayrıca varsayılan sağlayıcı veya yeniden satıcı havuzlarını kabul etmekten kaçınmalı ve üst akış sağlayıcılarını kendileri seçmelidir.
Kaynaklar: Ars Technica · Techmeme
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.