Anthropic تعمل على نظام مفتوح المصدر للتحقق من هوية نماذج الذكاء الاصطناعي

تعمل Anthropic على نظام مفتوح المصدر باسم FlashProve للتحقق من نموذج الذكاء الاصطناعي الذي أنتج مخرجات معينة، وفقاً لمنشور مدونة نُشر الثلاثاء. صُمّم النظام لتقديم ما يصفه الباحثون بـ«الاستدلال القابل للإثبات»، وهو برهان تشفيري على أن مخرجات معينة جاءت من نموذج محدد. وهو يهدف إلى تمكين المستخدمين من تأكيد أن إجابة جاءت فعلاً من النموذج الذي يظنون أنهم يستخدمونه.

كيف سيعمل FlashProve

صُمّم FlashProve ليكون متيناً أمام المحتالين الذين يحاولون تنكر نموذج كآخر، حتى عندما يكون المحتال هو المختبر الذي بنى النموذج ويشغّله. يقول الباحثون إنه قد يساعد في منع شركة ذكاء اصطناعي من استبدال نموذج أرخص سراً لخفض التكاليف، أو نموذج أغلى لرفع نتائج الأداء. كما يمكن أن يتحقق من ادعاءات أطراف ثالثة بأن مهمة معينة أنجزها نموذج متقدم، مثل مطور يدّعي أن مكتبة برمجية فُحصت بحثاً عن ثغرات بواسطة نموذج أمن سيبراني متقدم، أو شركة تدّعي أن خطة أعمالها نالت موافقة من نموذج مناسب.

بصمات النماذج والخصوصية

لأجل أن يعمل، يتطلب النظام من مختبرات الذكاء الاصطناعي نشر «بصمة» لكل نموذج تُصدره. يمكن لاحقاً مطابقة تلك البصمات بمخرجات محددة والتحقق منها تشفيرياً. لا تكشف البصمات أوزان النموذج، وهي الأرقام الداخلية التي تحدد سلوكه، لذا يمكن للمختبرات نشرها دون التخلي عن أثمن أصولها. وهذا سيسمح للنظام بالعمل مع النماذج التجارية أيضاً.

الإصدار مفتوح المصدر والخطوات التالية

صُمّم النظام أيضاً ليكون خفيفاً، لذا يمكن إجراء التحقق على جهاز محلي. وفي إطار الإعلان، أصدر الباحثون مواصفة تقنية مفصلة وشيفرة عاملة لعناصر مختلفة من النظام بموجب ترخيص مفتوح المصدر على GitHub. لا تزال الأبحاث جارية، ولا توجد خطط لنشره في Anthropic أو أي مختبر آخر، ووصف الباحثون المنشور بأنه مشاركة تقدم مرحلي وليس أجندة بحث مكتملة.

المصادر: TechCrunch · Techmeme