ChatGPT-ın macOS tətbiqində həlledici zəiflik aradan qaldırıldı

OpenAI ChatGPT-ın macOS tətbiqində aşkar edilmiş təhlükəsizlik zəifliyini aradan qaldırdı. Zəiflikdən istifadə etməklə hücumçu qurbanın kompyuterində ChatGPT-i ələ keçirərək tətbiqin söhbətlərinə, saxlanılan məlumatlara və brauzer sessiyalarına çata bilərdi. Zəifliyi Objective-See Foundation araşdırmaçıları tapdı.

Nə aşkar edildi

ChatGPT-ın macOS tətbiqinin komponentləri bir-birini rəqəmsal imza yoxlaması ilə əlaqələndirir ki, sorğunun OpenAI komponentindən gəldiyi, xarici zərərli proqramdan gəlmədiyi müəyyən olunsun. Yoxlama sorğudan üç səviyyədən yuxarı da yayılır ki, zərərli kod etibarlı komponenti vasitəçi kimi istifadə edə bilməsin.

Araşdırmaçılar tətbiqdə etibarlı komponentin skript interpreterinin etibarsız skript qəbul etdiyini müəyyən etdilər. Onun manipulyasiyası ilə zərərli skript ChatGPT-ın əsas prosesinə düşürdü. “Onlar bu prosesin həm valideynini, həm nəslini yoxlayır, lakin zərərli skript sadəcə üç dəfə skript interpreterini işə salır və sonra sorğu göndərir ki, sorğular yerinə yetirilsin”, — deyir Patrick Wardle.

Hücumçunun nə edə bilməsi

Wardle-in qiymətləndirməsinə görə, zəiflikdən istifadə son dərəcə asan idi: konsepsiyanı təsdiqləmək üçün yalnız on sətir kod kifayət edirdi. Söhbətlərə çatmaqdan əlavə, hücumçu ChatGPT vasitəsilə digər əmrləri yerinə yetirə bilərdi, məsələn brauzerdə və ya digər həssas tətbiqdə daxil ola bilərdi. Bu sorğular OpenAI tərəfindən proqramın legitim təlimatları kimi qəbul edilirdi.

OpenAI cavabı

OpenAI zəifliyi və onun düzəlişini 25 sentyabrda dəyişiklik jurnalında açıq şəkildə təsdiqlədi. “Biz təhlükəsizlik təcrübəsini inkişaf etdiririk, lakin daha sürətli hərəkət etməli olduğumuzu bilirik”, — şirkət nümayəndəsi Shane Bauer Wired-a bildirdi.

Nə vacibdir

Hadisə göstərir ki, AI tətbiqləri özləri üçün hücumçulara cəlbedici hədəfdir: işləmək üçün onlara dərin sistem çatması və etibar lazımdır. “Agentlər işləmək üçün çox çatmağa ehtiyac duyurlar. Onlar bina rəisinə bənzəyir, hər otağın açarı ondadır. Buna görə də, onları pozmaq və ya ələ keçirmək çox təhlükəlidir, çünki etibarsız kod hər şeyə çata bilər”, — deyir Wardle.

Wardle noyabrda Apple-a yönəlmiş təhlükəsizlik konfransı Objective by the Sea-da AI-nın macOS tətbiqlərində tapılan bir neçə zəifliyin təhlilini təqdim edəcək. Bir az əvvəl o, artıq düzəldilmiş zəifliki Meta-nın yeni AI köməkçisi Muse-in karnaq funksiyasında tapdı; onunla lokal hücumçu səhv emal edilmiş avtorizasiya tokeninə çata bilərdi. Wardle şirkəti ChatGPT və OpenAI-nın yeni, daima aktiv AI köməkçisi Dots inteqrasiyası ilə bağlı zəiflik barədə artıq xəbərdar edib, OpenAI isə bəyanatı nəzərdən keçirir.

“AI şirkətləri indi yeni funksiyalar əlavə etməyə yönəlib, lakin funksiya nə qədər çox olursa, hücum səthi o qədər geniş olur. Buna görə də hamısı təhlükəsizliyə qayğı göstərməlidir və, göründüyü kimi, bu çox vaxt ikinci dərəcəli qalır”, — deyir Wardle.