Paylaşılan bir ChatGPT bağlantısı oturumunuzda saldırgan kodu çalıştırıp özel sohbetleri okuyabilirdi

Güvenlik firması Parameter'ın araştırmacıları, kötü amaçlı bir paylaşılan ChatGPT bağlantısının bunu açan herkesin oturum açmış oturumunda saldırganın kodunu çalıştırabildiğini ve özel sohbetlere erişim sağlayabildiğini buldu. Açık, 18 Ekim'de OpenAI'nin hata ödül programı üzerinden bildirildi, sekiz gün sonra düzeltildi ve OpenAI'nin en ciddi kategorisi olan P1 olarak değerlendirildi. Saldırı sıradan bir paylaşılan sohbet kullandı ve kurbanın yazılım yüklemesini, bir çalışma alanına katılmasını veya saldırgan üzerinden oturum açmasını gerektirmedi.

Açık neye izin verdi

Bağlantı açıldığında kod, gerçek ChatGPT sitesiyle aynı erişimle çalıştı. Yakın tarihli sohbetleri listeledi, saldırganla hiç paylaşılmamış özel bir sohbeti açtı ve bunun küçük bir bölümünü araştırmacıların denetimindeki bir sunucuya gönderdi. ChatGPT'nin oturum açmış API'lerini doğrudan çağırdığı için araştırmacılar, bunun kurbanın hesabının adına işlem yapabildiğini söyledi. Çalışma denetimli bir testti, Parameter gerçek dünyada kullanım bildirmedi ve özel sohbet kanıtı ayrı hesaplar arasında çalıştı.

Saldırı nasıl çalıştı

ChatGPT'nin Önizleme özelliği, sohbetteki bir HTML bloğunu ayrı bir web adresinde, kilitli bir çerçeve içinde çalışan küçük bir web sayfasına dönüştürebilir. Bu korumalı alan işe yaradı. Giriş yolu aynı paylaşılan sohbetteki etkileşimli bir grafikten geldi: onu çizmek MathLive kütüphanesini ana ChatGPT sayfasına yükledi. MathLive'in yüklenmesi ekran klavyesiyle ilgili iletiler için bir dinleyici bıraktı ve Parameter bunun klavye iletisini herhangi bir gönderenden kabul ettiğini buldu. Bu iletinin ham HTML taşımasına izin veriliyordu; bu da Önizleme'nin saldırgan HTML'ini güvenilen ana sayfaya iletmesini sağlıyordu. HTML, tarayıcının chatgpt.com'un parçası olarak ele aldığı yeni bir çerçeve oluşturdu ve YouTube'dan yüklenen bir betik kodu sağladı. ChatGPT'nin içerik güvenlik politikası satır içi kodu engelledi ama YouTube'dan gelen betiklere izin verdi.

OpenAI neyi değiştirdi

OpenAI hem kod çalıştırmayı hem özel sohbet kanıtını yeniden oluşturdu, önem derecesini P2'den P1'e yükseltti ve ChatGPT'nin web ön yüzünün iki sürümüne bir düzeltme dağıttı. 26 Ekim'e kadar her iki sürüm de saldırının dayandığı iletileri reddetti. Parameter sorunu üç tasarım seçimiyle ilişkilendirdi: MathLive, hangi çerçevenin gönderdiğini denetlemeden ayarlarını değiştiren bir iletide işlem yaptı; bu iletinin ham HTML'yi klavye düzeni verisi olarak taşımasına izin veriliyordu; ve HTML, korumalı alanda olmayan ve chatgpt.com kimliğini devralan bir çerçeve oluşturabiliyordu. YouTube adımı yalnızca son geçici çözümdü, asıl neden değildi.

Kullanıcıların ne yapması gerekiyor

ChatGPT kullanıcılarının herhangi bir işlem yapması gerekmiyor. Düzeltme OpenAI tarafında ve yüklenecek ya da sıfırlanacak bir şey yok. Parameter yazısını düzeltmeden sonra, 28 Ekim'de yayımladı ve OpenAI rapor için toplam 5.000 dolar ödedi.

Kaynaklar: The Hacker News