العودة

باحث يزرع 2 مليون فخ رقمي في سلسلة توريد الذكاء الاصطناعي ويكشف إخفاقات الخصوصية
SiTech AI Team3 دقيقة قراءة

باحث يزرع 2 مليون فخ رقمي في سلسلة توريد الذكاء الاصطناعي ويكشف إخفاقات الخصوصية

زرع باحث ما يقارب مليوني مطالبة ذكاء اصطناعي بأسرار فريدة، واكتشف خروقات وسرقة مطالبات وتسجيل مطالبات من قبل بائعين مجددين وإخفاقات في إشارات الخصوصية عبر خدمات الذكاء الاصطناعي ومقدمي النماذج.

زرع الباحث HD Moore ما يقارب مليوني سر فريد وقابل للتتبع في مطالبات ذكاء اصطناعي أُرسلت عبر شبكة واسعة من خدمات الذكاء الاصطناعي، واكتشف خروقات أمنية وسرقة مطالبات وإخفاقات واسعة في حماية بيانات العملاء. كتب Moore، وهو كبير مسؤولي البحوث في شركة الأمان Dragos، عن النتائج يوم الخميس.

كيف عملت التجربة

جمع Moore مفاتيح وصول AWS مرتبطة بحسابات فارغة، وكلمات مرور لخدمات مثل SSH، ومراجع فريدة لعناوين URL وأسماء DNS ومستودعات git خاصة. لم يُستخدم أي منها من قبل، وقد تحكم في البنية التحتية التي تلقى طلبات باستخدامها. زرع كل سر في مطالبة واحدة بالضبط أُرسلت إلى مقدم واحد.

تستخدم العديد من تطبيقات الذكاء الاصطناعي خدمات مثل OpenRouter أو Vercel كوسطاء، وتُسمى أيضاً موجّهات ذكاء اصطناعي أو بوابات، توجّه المطالبات إلى محركات الاستدلال. المطالبات مشفرة أثناء النقل لكنها تُفك تشفيرها في كل مرحلة، وكل طرف من المرجح أن يسجلها ويخزنها وفقاً للسياسة.

الخروقات والبائعون المجدّدون وإشارات الخصوصية

تعرض ما لا يقل عن ثلاثة من مقدمي خدمات الذكاء الاصطناعي لاختراق من مهاجمين سرقوا المطالبات. أعاد مهاجم واحد استخدام "بضع مئات" من مفاتيح AWS، وسُرقت كل الطلبات المرسلة خلال نوافذ زمنية معينة في أواخر أكتوبر. جاء بعض المفاتيح من طلبات رُفضت قبل تشغيل نموذج، مما يشير إلى نسخ في "الباب الأمامي" لمقدم الخدمة.

سجل عدة من البائعين المجددين المطالبات وسلّموها إلى أشخاص استخدموا الاعتمادات. حدّدهم Moore بإرسال طلبات إلى النموذج نفسه عبر بائعين مختلفين. فشل بعض المقدمين أيضاً في الالتزام بإشارات الخصوصية مثل Zero Data Retention أو "no data collection".

في خرقين آخرين، كانت بعض الطلبات المسروقة موسومة بـ Zero Data Retention. اختبر المهاجمون المفاتيح، أحياناً خلال ساعات، وبحثوا في حاويات S3 ومديري الأسرار ومخازن المعلمات، وحاولوا تمكين نماذج مستضافة في AWS Bedrock، وأضافوا مستخدمي IAM خاصين بهم. استُخدمت المفاتيح المسروقة "عشرات الآلاف" من المرات في استدعاءات API لـ AWS.

جمع عناوين URL وتحديث OpenRouter

جلب مختبر ذكاء اصطناعي صيني عناوين URL سرية من أكثر من نصف المطالبات المرسلة إلى نماذجه بين يوليو وأكتوبر، بما في ذلك نحو ثلثي المطالبات الموسومة "no data collection" أو Zero Data Retention. ظهرت أداة الجمع عادة بعد يومين أو ثلاثة أيام. تعيد عدة مقدمين أميركيين للاستضافة بيع نماذج هذا المختبر، وأثارت المطالبات المرسلة إليهم أداة الجمع نفسها.

لاحقاً، حاول عميل git استنساخ مستودعات خاصة مشار إليها في المطالبات، لكن ذلك حدث فقط للمطالبات التي استخدمت نماذج هذا المختبر. زحف مقدم استضافة أميركي واحد إلى عنوان URL سري بعد أكثر من شهرين من استدعاء استدلال واحد، بينما عاد آخر إلى عناوين URL بعد أيام من كل طلب.

أبلغ OpenRouter العملاء بأن بعض المطالبات قد تكون قُرئت، نقلاً عن البحث. شمل التعرض المحتمل مطالبات أُرسلت إلى MiniMax، وهو مقدم نماذج مقره الصين، مباشرة أو عبر بائعين مجددين AtlasCloud و Novita و StreamLake. أزال OpenRouter وسم "Zero Data Retention" من نقاط نهاية نماذج MiniMax.

ماذا يمكن للمستخدمين فعله

الطريقة الأفضل لمنع التسرب هي استضافة النماذج في الموقع، مع أن ذلك مكلف. خلاف ذلك، ينصح Moore بتلقّي الخدمة مباشرة من مقدم من الدرجة الأولى بعقد واحد وسياسة خصوصية. ذلك لا يضمن عدم التسرب، لكنه يقلل الاحتمالات. يجب على المستخدمين أيضاً تجنب قبول مجموعات المقدمين الافتراضية أو مجموعات البائعين المجددين، واختيار المقدمين الأعلى في السلسلة بأنفسهم.

المصادر: Ars Technica · Techmeme

SiTech

SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي

نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.