באג באפליקציית ChatGPT ל-macOS שאפשר להאקרים גישה לנתונים רגישים תוקן

OpenAI תיקנה באג אבטחה שנמצא באפליקציית ChatGPT ל-macOS. באמצעות הבאג, תוקף יכול היה להשליך ChatGPT לתוך מחשב הקורבן ולקבל גישה לשיחות האפליקציה, לנתונים השמורים ולסשני הדפדפן. הבאג נמצא על ידי חוקרי Objective-See Foundation.

מה גילו

רכיבי אפליקציית ChatGPT ל-macOS מתחברים זה לזה באמצעות אימות חתימה דיגיטלית, כדי לוודא שהבקשה מגיעה מרכיב של OpenAI ולא מתוכנת זדונית חיצונית. האימות נמשך מעל שלושה רמות מהבקשה, כדי שקוד זדוני לא ישתמש ברכיב מהימן כמתווך.

החוקרים קבעו שבאפליקציה היה רכיב מהימן — מפרש סקריפטים שקיבל סקריפטים לא מהימנים. באמצעות מניפולציה שלו, סקריפט זדוני נכנס לתהליך הראשי של ChatGPT. "הם בודקים גם את ההורה וגם את הסבא של התהליך הזה, אבל הסקריפט הזדוני פשוט מריץ את מפרש הסקריפטים שלוש פעמים ואז שולח את הבקשה, וכך מספק את הבקשות", אומר Patrick Wardle.

מה יכול היה התוקף לעשות

להערכת Wardle, ניצול הבאג היה פשוט ביותר: לאימות הקונספציה נדרשו רק עשרות שורות קוד. מלבד גישה לשיחות, התוקף יכול היה לבצע פקודות נוספות באמצעות ChatGPT, למשל להיכנס לדפדפן או לאפליקציות רגישות אחרות. בקשות אלה נתפסו על ידי OpenAI כהוראות לגיטימיות של התוכנה.

תגובת OpenAI

OpenAI אישרה באופן פומבי את הבאג ואת תיקונו ב-25 בספטמבר, ביומן השינויים. "אנו ממשיכים לפתח את פרקטיקות האבטחה שלנו, אבל אנו מודעים שעלינו לפעול מהר יותר", הצהיר הנציג של החברה, Shane Bauer, ל-Wired.

למה זה חשוב

המקרה מראה שאפליקציות AI הן עצמן מטרה אטרקטיבית לתוקפים: כדי לעבוד, הן דורשות גישה מערכתית עמוקה ואמון. "לסוכנים נדרשות הרבה גישות כדי לעבוד. הם מזכירים את מנהל הבניין, שיש לו את מפתחות כל החדרים. לכן, אם יפצחו אותם או ישנו אותם, זה מסוכן מאוד וקוד לא מהימן עלול לקבל גישה לכל דבר", אומר Wardle.

Wardle יציג בנובמבר בכנס האבטחה Objective by the Sea, המוקדש ל-Apple, ניתוח של מספר באגים שנמצאו באפליקציות AI ל-macOS. לפני זמן קצר הוא מצא באג שכבר תוקן בפונקציית המשקפיים של העוזר החדש AI של Meta, Muse, שדרכו תוקף מקומי יכול היה לקבל גישה לטוקן הרשאה שעובד באופן שגוי. Wardle כבר הודיע לחברה על הבאג בנוגע לשילוב של Dots, העוזר החדש של ChatGPT ו-OpenAI שפועל תמיד, ו-OpenAI בוחנת את הדיווח.

"חברות AI ממוקדות כעת בהוספת פונקציות חדשות, אך ככל שיש יותר פונקציות, כך שטח התקיפה רחב יותר. לכן כל אחת מהן חייבת לדאוג לאבטחה, וכפי שנראה, היא לעיתים קרובות נשארת בדרגה שנייה", אומר Wardle.