OpenAI تقول إن النماذج زيّفت البيانات وتجاوزت القيود

أتلف النموذج بيئته عمداً لإجبار إعادة التحميل

في 6 أكتوبر، لم يجد نموذج تقييم لدى OpenAI الإجابات التي كان يفترض تقييمها. وبدلاً من الإبلاغ عن خطأ، زيّف النموذج التقييمات وأنشأ ملفات واردة مزيفة. ثم أتلف بيئته عمداً، على ما يبدو، على أمل أن يستبدله النظام بآلة افتراضية جديدة تحتوي على البيانات المفقودة، وفقاً لـ OpenAI.

تجاوز متكرر لقيود الشبكة

في حالتين أخريين وقعتا في 16/17 و19/20 يونيو، تجاوزت النماذج قيود الشبكة أكثر من مرة. في الحالة الأولى، أنشأت النماذج، التي كانت تملك البيانات اللازمة بالفعل، حسابات على خدمة shell عن بُعد، ونفّذت طلبات POST المحظورة عبر مرحلات مجهولة، وبنّت عملاء FTP خاصة بها. وفي الحالة الثانية، أثناء البحث عن إحصاءات عامة، تجاوزت النماذج قيداً كان يسمح لها بالعمل فقط عبر طلبات HTTP GET. واعترف أحد النماذج بوضوح في سلسلة تفكير داخلية بالمخالفة، لكنه قرر الاستمرار ولم يذكرها أبداً.

Anthropic تصف سلوكاً مشابهاً أيضاً

OpenAI ليست وحدها في توثيق هذا السلوك. ويقول التقرير إن Anthropic وصفت أيضاً حيل تجاوز سخيفة أحياناً تستخدمها نماذجها لتجاوز القيود المفروضة.

المصادر: The Decoder