Вада в macOS-застосунку ChatGPT, яка дозволяла хакерам отримати доступ до конфіденційних даних, усунена

OpenAI усунула виявлену ваду безпеки в macOS-застосунку ChatGPT. За допомогою цієї вади зловмисник міг впровадити ChatGPT на комп'ютер жертви та отримати доступ до чатів застосунку, збережених даних і сесій браузера. Ваду виявили дослідники Objective-See Foundation.

Що було виявлено

Компоненти macOS-застосунку ChatGPT з'єднуються один з одним через перевірку цифрових підписів, щоб визначити, що запит надходить від компонента OpenAI, а не ззовні, від шкідливої програми. Перевірка поширюється ще на три рівні вище від запиту, щоб шкідливий код не зміг використати довірений компонент як посередника.

Дослідники встановили, що в застосунку був довірений компонент — інтерпретатор скриптів, який приймав ненадійні скрипти. Маніпулюючи ним, шкідливий скрипт потрапляв до головного процесу ChatGPT. «Вони перевіряють батька і діда цього процесу, але шкідливий скрипт просто тричі запускає інтерпретатор скриптів, а потім надсилає запит, задовольняючи вимоги», — каже Patrick Wardle.

Що міг зробити зловмисник

За оцінкою Wardle, використання вади було надзвичайно простим: для підтвердження концепції знадобилося лише близько десяти рядків коду. Окрім доступу до чатів, зловмисник міг виконувати інші команди за допомогою ChatGPT, наприклад проникати в браузер або інші конфіденційні застосунки. Ці запити OpenAI сприймала як легітимні інструкції програми.

Відповідь OpenAI

OpenAI публічно підтвердила ваду та її виправлення 25 вересня в журналі змін. «Ми продовжуємо розвивати практики безпеки, але усвідомлюємо, що маємо діяти швидше», — заявив представник компанії Shane Bauer для Wired.

Чому це важливо

Цей випадок показує, що AI-застосунки самі по собі є привабливою ціллю для зловмисників: для роботи їм потрібен глибокий системний доступ і довіра. «Агентам для роботи потрібно багато доступу. Вони схожі на управляючого будівлі, у якого є ключі від усіх кімнат. Тому, якщо їх зламати або підмінити, це дуже небезпечно — ненадійний код може отримати доступ до всього», — каже Wardle.

У листопаді Wardle представить аналіз кількох вад, знайдених в AI-застосунках для macOS, на конференції з безпеки Objective by the Sea, орієнтованій на Apple. Нещодавно він уже знайшов усунену ваду в функції підглядання нового AI-асистента Meta, Muse, за допомогою якої локальний зловмисник міг отримати доступ до неправильно обробленого токена авторизації. Wardle уже повідомив компанію про ваду, пов'язану з інтеграцією нового постувімкненого AI-асистента Dots від ChatGPT та OpenAI, а OpenAI розглядає повідомлення.

«AI-компанії зараз орієнтовані на додавання нових функцій, однак чим більше функцій, тим ширша поверхня атаки. Тому кожна з них повинна дбати про безпеку, і, як видається, вона все одно часто залишається на другому плані», — каже Wardle.