أنثروبيك تمنح هيئة الرقابة الخارجية METR وصولاً شبيهاً بالموظفين لاختبار مخاطر النماذج

أنثروبيك تُضمّن مقيّمي METR في مكاتبها

منحت أنثروبيك مقيّمين خارجيين «وصولاً شبيهاً بالموظفين» لتقييم مخاطر نماذجها، وفاءً بالتزام بتعزيز الضمانات وسط مخاوف من أن تخرج التكنولوجيا عن السيطرة بشكل كارثي. وأصبحت منظمة METR غير الربحية، التي عملت مع مختبرات رائدة تشمل OpenAI وAnthropic وGoogle وMeta، لديها الآن فريق مُضمّن في مكتب صانع Claude، مع إمكانية الوصول إلى أجهزته وأنظمته الداخلية.

ضمّت أنثروبيك ستة موظفين من METR، ووفرت لهم أجهزة الشركة ومساحة مكتبية وإمكانية الوصول إلى الأدوات والأنظمة الداخلية بمستوى يوازي تقريباً ما تملكه فرق تقييم المخاطر الداخلية. وقال المختبر إنه شجع الموظفين على مشاركة المعلومات مع المقيّمين كما يفعلون مع زميل يعمل في مجال المخاطر. ولا تدفع أنثروبيك لـ METR مقابل هذا الترتيب.

اقتراح يحظى بدعم المنافسين الأكبر

فاز الرئيس التنفيذي لأنثروبيك Dario Amodei بلحظة نادرة من التوافق مع منافسيه Sam Altman وElon Musk في سبتمبر، عندما أيد مديرا OpenAI وSpaceX مقترحه بتضمين مدققين خارجيين في المختبرات الرائدة. ويمثل إعلان الخميس خطوة أولى نحو تنفيذ هذه التعهدات. ولم تضع OpenAI بعد خططاً لاستقدام مقيّمين بعد قول Altman إن مقترحات Amodei فكرة جيدة.

قالت أنثروبيك إن النماذج مع زيادة قوتها تطلبت ضمانات أقوى وتقييماً أصعب للمخاطر. وتريد الشركة أن تكون مسؤولة علناً عن القرارات التي تتخذها، لكنها تجادل بأنه لا يمكنها مشاركة علناً كل المعلومات ذات الصلة بعملها المتعلق بالسلامة. وشبّهت نموذج المقيّمين بالإشراف المصرفي، الذي تكلف فيه الجهات التنظيمية مفتشين مقيمين بالعمل داخل أكبر البنوك.

مراجعة الصراعات وضغط الاكتتاب العام الأولي

يجادل منتقدو ترتيبات المقيّمين بأنها قد تؤدي إلى تضارب في المصالح، مستشهدين بمشكلات في قطاع المحاسبة، وأن هناك حاجة إلى تنظيم حكومي أكبر. وردت أنثروبيك بأن مشاركة المعلومات علناً قد تفيد جهات خبيثة أو منافسين.

كما تواجه الشركة ضغوطاً لطمأنة المستثمرين بأن قضايا السلامة لن تطغى على طرحها العام الأولي، المتوقع هذا العام بقيمة تتجاوز 2 تريليون دولار. وكرست الشركة جزءاً كبيراً من عروض المستثمرين هذا الأسبوع لشرح ممارسات السلامة لديها.

شروط النشر واختبارات أخرى

سينشر المقيّمون تحليلهم، ولا تستطيع أنثروبيك منع النشر. ومع ذلك، يمكنها أن تطلب منهم حجب معلومات تقع ضمن فئات معينة، مثل بيانات العملاء، أو التفاصيل المشمولة بامتياز السرية بين المحامي والعميل، أو المعلومات عن معماريات النماذج.

كانت METR إحدى المنظمات التي حققت في اختراق Hugging Face بواسطة نماذج OpenAI مارقة، وراجعت آلاف السجلات واستلمت أجهزة كمبيوتر محمولة من الشركة. ولا تقبل المجموعة تبرعات من شركات الذكاء الاصطناعي أو موظفيها، بل تحصل على تمويل من أفراد ومنظمات خيرية وهيئات حكومية مثل معهد أمن الذكاء الاصطناعي في المملكة المتحدة.

قالت أنثروبيك إنها ما زالت تعمل مع Accenture، التي أُعلنت الشهر الماضي شريكاً في اختبار السلامة، مع التزام كل منهما بما لا يقل عن مليار دولار لإعداد ضمانات جديدة. وتعمل جهة اختبار أخرى من الطرف الثالث، SecureBio، على مراجعة مخاطر الأسلحة الكيميائية والبيولوجية للشركة. وقالت أنثروبيك: «نحن نضمّن مقيّمين طوعاً، ونعتقد أن كل شركة ذكاء اصطناعي متقدم يجب أن تفعل الشيء نفسه». وقالت METR إنها مستعدة للعمل مع جميع مطوري الذكاء الاصطناعي المتقدم لتقديم أدلة أفضل إلى الجمهور.

المصادر: Ars Technica