Parameter Labs ChatGPT hesabının ələ keçirilməsini sandboxdan çıxışla açıqladı

Parameter Labs, OpenAI-nin əvvəllər "Canvas", indi isə HTML previews adlandırdığı artifacts nümunəsinin ChatGPT tətbiqinə qarşı istismarı təsvir etdi; burada interaktiv fərdi HTML tətbiqləri sandbox iframe-də işləyir. Zəncir hücumçuya başqa daxil olmuş istifadəçi açanda şəxsi məlumatları çıxaran və ya həmin istifadəçinin adından əməliyyat edən ChatGPT paylaşma URL-i yaratmağa imkan verə bilərdi. OpenAI zəifliyi bağladı və $5,000 bug bounty ödədi.

Hücum zənciri necə işlədi

ChatGPT qrafik dəstəyi üçün MathLive JavaScript kitabxanasından istifadə edir və həmin kitabxana virtual klaviatura ehtiva edir. Klaviatura sandbox iframe-dən postMessage() vasitəsilə ana səhifədə işə salına bilər. Bu mesajları qəbul edən kod innerHTML istifadə edir və digər sandbox freymləri, o cümlədən HTML preview freymləri, həmin metodu çağırmağın qarşısını alan mexanizm yox idi.

Bu etibarsız iframe koduna ana səhifəyə fərdi HTML yerləşdirməyə imkan verirdi. innerHTML birbaşa script elementlərini işə salmasa da, sandbox məhdudiyyəti olmayan yeni iframe yerləşdirmək üçün istifadə edilə bilərdi. OpenAI-nin məzmun təhlükəsizliyi siyasəti inline script-ləri bloklayır və script yüklənməsinə yalnız bir neçə domendən icazə verirdi, lakin YouTube onların arasında idi. YouTube oEmbed endpoint-i JavaScript-i icra olunan şəkildə əks etdirə bilərdi.

Təsir və həll

Hücumçu ChatGPT-də JavaScript icrasına nail olandan sonra API-lərdən şəxsi istifadəçi məlumatlarını əldə etmək və onları şəkil istinadı vasitəsilə çıxarmaq asan idi. Nəticədə başqa daxil olmuş ziyarətçini təhlükə altına sala bilən paylaşma keçidi yarandı. OpenAI boşluğu bağladı və $5,000 mükafat ödədi; hesabata keçid verən Simon Willison həmin məbləği bu qədər ciddi zəiflik üçün bir qədər ucuz hesab etdiyini bildirdi.

Mənbələr: Simon Willison