ChatGPT'nin macOS uygulamasındaki, hacker'ların hassas verilere erişmesine olanak tanıyan hatası düzeltildi

OpenAI, ChatGPT'nin macOS uygulamasında tespit edilen güvenlik hatasını düzeltti. Bu hata sayesinde saldırgan, kurbanın bilgisayarına ChatGPT enjekte ederek uygulamadaki sohbetlere, kayıtlı verilere ve tarayıcı oturumlarına erişebiliyordu. Hata, Objective-See Foundation araştırmacıları tarafından bulundu.

Ne buldular

ChatGPT'nin macOS uygulamasındaki bileşenler, isteklerin OpenAI bileşeninden mi yoksa dışarıdaki zararlı bir programdan mı geldiğini belirlemek için birbirlerini dijital imza doğrulamasıyla bağlar. Doğrulama, isteğin üç seviyeden yukarısına kadar uygulanır; böylece zararlı kod güvenilir bir bileşeni araç olarak kullanamaz.

Araştırmacılar, uygulamada güvenilmeyen bir betiği kabul eden güvenilir bir bileşen, betik yorumlayıcısı olduğunu belirledi. Bunu manipüle ederek zararlı betik ChatGPT'nin ana sürecine sızdırılabiliyordu. "Bu sürecin hem ebeveynini hem de büyükbabasını kontrol ediyorlar, ancak zararlı betik sadece üç kez betik yorumlayıcısını çalıştırıyor ve ardından istekleri göndererek istekleri karşılıyor" diyor Patrick Wardle.

Saldırgan ne yapabilirdi

Wardle'ın değerlendirmesine göre, hatayı kullanmak son derece basitti: kanıt oluşturmak için sadece on satırlık kod yeterliydi. Sohbetlere erişimin yanı sıra saldırgan, ChatGPT aracılığıyla başka komutları da çalıştırabilirdi; örneğin tarayıcıya veya başka hassas uygulamalara sızmak gibi. Bu istekler OpenAI'nin programın meşru talimatları olarak algılanıyordu.

OpenAI'nin yanıtı

OpenAI, hatayı ve düzeltmesini 25 Eylül'de değişiklik günlüğünde kamuoyuna açıkladı. "Güvenlik uygulamalarımızı geliştirmeye devam ediyoruz, ancak daha hızlı harekete etmemiz gerektiğinin farkındayız" diyor şirket temsilcisi Shane Bauer, Wired'e açıklama yaparak.

Bu neden önemli

Bu olay, AI uygulamalarının kendileri için bile saldırganların cazip bir hedefi olduğunu gösteriyor: çalışmak için derin sistem erişimine ve güvene ihtiyaçları var. "Ajanların çalışmak için çok fazla erişime ihtiyacı var. Tüm odaların anahtarları olan binanın yöneticisine benziyorlar. Bu yüzden, onları bozarlarsa veya değiştirirlerse bu çok tehlikeli ve güvenilmeyen kodun her şeye erişmesi mümkün olabilir" diyor Wardle.

Wardle, Kasım ayında Apple odaklı güvenlik konferansı Objective by the Sea'de, AI macOS uygulamalarında bulunan birkaç hatanın analizini sunacak. Kısa süre önce, Meta'nın yeni AI asistanı Muse'in görüntüleme fonksiyonunda zaten düzeltilmiş bir hata bulmuştu; bu hata yerel bir saldırganın hatalı işlenmiş bir kimlik doğrulama token'ına erişmesine olanak tanıyordu. Wardle, ChatGPT ve OpenAI'nin yeni, sürekli aktif AI asistanı Dots entegrasyonuyla ilgili hatayı şirkete daha önce bildirmişti; OpenAI ise açıklamayı değerlendiriyor.

"AI şirketleri şu anda yeni özellikler eklemeye odaklı, ancak özellik arttıkça saldırı yüzeyi de genişliyor. Bu yüzden hepsi güvenlikle ilgilenmeli ve görünüşe göre bu çoğunlukla ikinci öncelik olarak kalıyor" diyor Wardle.