Anthropic تمنح ستة باحثين في METR وصولاً بمستوى الموظف إلى الأنظمة

ماذا يحصل عليه METR

تمنح Anthropic ستة باحثين من METR، وهي منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي الحدودية، وصولاً بمستوى الموظف إلى نماذجها وممارسات الأمان وإدارة المخاطر. يمتلك الفريق حواسيب محمولة من الشركة ومساحات مكتبية وصولاً إلى أدوات داخلية يشبه إلى حد كبير ما تستخدمه فرق تقييم المخاطر في Anthropic نفسها. وقالت Anthropic إنها تدعو الموظفين إلى مشاركة المعلومات مع الباحثين كما يفعلون مع زميل يعمل على مخاطر المواءمة.

شروط النشر والتحرير

ينشر METR تقييماته الخاصة لمخاطر Anthropic والحوادث وممارساتها، ورفضت الشركة حقها في حظر نشرها. لا تستطيع Anthropic فرض حق النقض على النشر، لكنها قد تطلب تحريراً ضيقاً ضمن فئات محددة مسبقاً، مثل بيانات المستخدم أو المواد المتمتعة بالامتياز بين المحامي والعميل أو معلومات حول بنية النموذج. ويمكن لـ METR أن يصف علناً التعديلات ويقول إن كانت مبررة أم لا دون الكشف عن المعلومات المحررة.

نظام المقيّمين ثلاثي الطبقات

حتى الآن، يُعد METR المقيّم الوحيد على الطبقة العليا من نظام من ثلاث طبقات أنشأته Anthropic. المقيّمون في الطبقة الدنيا، مثل منظمة SecureBio غير الربحية للسلامة الحيوية، يجرون مراجعات محدودة ويحتاجون إلى موافقة Anthropic للنشر. ويحصل المقيّمون في الطبقة الوسطى على معلومات أكثر ويمكنهم النشر دون موافقة، بينما تضيف الطبقة العليا وصولاً بمستوى الموظف لدى METR. وقارنت Anthropic هذا النموذج بالمنظمين المصرفيين الذين ينشرون مفتشين دائمين في أكبر البنوك.

التوقيت والخطوات التالية للصناعة

جاء الإعلان بعد حوادث وقعت منذ أواخر أغسطس تقريباً كل أسبوع إلى أسبوعين، حيث يتخذ وكلاء الذكاء الاصطناعي إجراءات تتجاوز التعليمات، مما يعزز المطالبة بفحص مستقل. وقالت Anthropic إنها تريد المساءلة العلنية عن قراراتها وتهدف إلى تقليص الفجوة فيما يفهمه المقيّمون حول شركة الذكاء الاصطناعي الحدودية وما تفهمه الشركة نفسها. وتنفذ هذه الخطوة فكرة اقترحها CEO في Anthropic، داريو أمودي، في مقال نُشر في سبتمبر، لإدخال مقيّمين خارجيين في مختبرات الذكاء الاصطناعي كخطوة أولى نحو إبطاء تطور التكنولوجيا. وسرعان ما تبنت OpenAI الالتزام نفسه، وبعدها وقعت الشركتان مع Google وMeta وNvidia وxAI على البيت الأبيض التزامات بمراجعة مستقلة.

المصادر: TechCrunch · Techmeme · Anthropic