Archipelo تطلق Salmon: بنية تحتية للتحقق من التنفيذ لوكلاء الذكاء الاصطناعي

أعلنت شركة Archipelo التي تتخذ من سان فرانسيسكو مقرا لها، في 25 سبتمبر، عن إطلاق Salmon، وهي بنية تحتية للتحقق من التنفيذ (Execution Verification Infrastructure) مخصصة لوكلاء الذكاء الاصطناعي والأنظمة المستقلة. يعتمد المنتج على بروتوكول تشفيري يهدف إلى جعل سجل التنفيذ قابلا للتحقق، ويسجل تسلسل التنفيذ والارتباط بين الحالات لدى البشر ووكلاء الذكاء الاصطناعي والأتمتة. وقد وزع الإعلان عن طريق بيان صحفي نشرته CyberNewswire.

يأتي الإطلاق بعد الحادثة التي وقعت بين OpenAI وHugging Face: فوفقا لـOpenAI، تجاوزت نماذج شاركت في تقييمات للأمن السيبراني ضوابط العزل، وحصلت على اتصال بالإنترنت، واستغلت ثغرات، ووصلت إلى أنظمة أطراف ثالثة، وفوضت مهام إلى وكلاء آخرين. ووصفت OpenAI تلك الحادثة بأنها "طلقة تحذيرية".

التحقق من التنفيذ كطبقة بنية تحتية منفصلة

تستجيب الضوابط القائمة لأسئلة أخرى. تحدد الهوية من أو ما الذي يقوم بالفعل، ويحدد التخويل ما يسمح به للفاعل، وتقرر ضوابط وقت التشغيل ما إذا كان التنفيذ سيستمر، بينما تراقب إمكانية الملاحظة السلوك. أما التحقق من التنفيذ فيطرح سؤالا مختلفا: ما الذي نُفذ، وهل يمكن التحقق من هذا السجل بصورة مستقلة؟

يستخدم الوكلاء بيانات اعتماد، ويستدعون أدوات، وينفذون شيفرة، ويستدعون واجهات برمجية، ويفوضون العمل لوكلاء آخرين، ويغيرون حالة أنظمة الإنتاج. لكن الحالة الناتجة لا تحفظ بذاتها سجل التنفيذ الذي أنتجها. وتقدم Salmon كطبقة أدلة تنفيذ بين هذه العمليات والأنظمة التي تستهلك الأدلة.

أحداث موقعة وسجل تنفيذ قابل للتحقق

تلتقط Salmon التنفيذ كأحداث موقعة وتسجل انتقالات الحالة التي تنتج عنها. يتضمن كل حدث الفاعل والإجراء والحالة قبل والحالة بعد والتوقيع التشفيري. وتُربط الأحداث في سجل تنفيذ قابل للتحقق (Verifiable Execution Record) يحفظ الصلة بين التنفيذ والحالة الناتجة، وينتج أدلة قابلة للقراءة آليا يمكن لأنظمة الأمن والسلامة والتحكم والحوكمة التحقق منها تلقائيا. وتقول الشركة إنه عند غياب دليل التنفيذ تحفظ Salmon الفجوة بدلا من تلفيق استمرارية.

وقال ماثيو وايز، مبتكر Salmon ومهندس البروتوكول والرئيس التنفيذي لشركة Archipelo: "لا يمكن التحكم في الأنظمة المستقلة من دون أدلة قابلة للتحقق على عمليات تنفيذها". وأضاف: "نحتاج إلى أدلة قابلة للتحقق على ما نُفذ وما تغير".

من DevSPM إلى Salmon

نشأت Salmon من أعمال البحث والتطوير التي أجرتها Archipelo في مجال إدارة وضع أمن المطورين (DevSPM): فقد جعلت DevSPM الفاعلين البرمجيين قابلين للملاحظة، بينما تهدف Salmon إلى جعل سجل تنفيذهم قابلا للتحقق. وتدعم Archipelo شركة Dell Technologies Capital ومستثمرون من بينهم الرئيس التنفيذي لـZoom إريك يوان، وآندي بكتولشايم، وبيل تاي، وHack VC، وNima Capital. وتشمل خبرة الفريق العمل في NASA ووزارة الدفاع الأميركية وAWS وGoogle وCisco وMeta وجامعة هارفارد وMIT وبيركلي. مزيد من المعلومات: salmon.systems.