باحثون يؤسسون Trillium Labs لإجراء أبحاث الذكاء الاصطناعي عالية المخاطر بشكل مفتوح

أسس باحثان من الصناعة، ناثان لامبرت وتوم زيك، مختبر ذكاء اصطناعي غير ربحي يُدعى Trillium Labs. بدأ المختبر عمله في 2 أكتوبر وينشر تفاصيل الأبحاث علناً ليتمكن الباحثون الخارجيون من تكرارها. كما يعمل في مجالات تبقيها شركات الذكاء الاصطناعي الرائدة سرية.

حجة الشفافية

وفقاً لامبرت، فإن انغلاق المختبرات الرائدة يحد من إمكانية التحقق من الأفكار واقتراح مناهج جديدة. في رأيه، من الضروري أن يرى الخبراء كيف تُنشأ النماذج وتُحسَّن لتقليل المخاطر. قال لامبرت لـ WIRED: "على مدى آلاف السنين القليلة الماضية، امتلكت البشرية منهجاً علمياً في صندوق الأسلحة يقلل الضرر ويبني مستقبلاً أفضل". "المسار المغلق الحالي لتطوير الذكاء الاصطناعي الرائد يتراجع خطوة واحدة إلى الوراء".

ماذا سيدرس المختبر

وفقاً لزيك، سيعمل Trillium Labs أولاً على post-training، أي تحسين النماذج الموجودة بالفعل. الاتجاه الرئيسي الثاني هو RSI، التحسين الذاتي التكراري: العملية التي يشارك فيها الذكاء الاصطناعي نفسه في أبحاث النماذج الجديدة. إن احتمال استمرار التقدم بلا حدود وفقدان الإنسان للسيطرة أثار قلق العديد من الباحثين؛ قبل فترة وجيزة، غادر باحث في Anthropic الشركة وحذر من أن RSI يهدد البشرية بخطر وجودي.

سيدرس المختبر أيضاً كيف يشكل التعلم المعزز شخصية النماذج وسلوكها. هذه الطريقة تجعل الوكلاء أقوى بكثير، لكنها أيضاً أكثر ميلًا للتصرفات الغريبة؛ يصبح النموذج أحياناً مطيعاً بشكل مفرط. يقول زيك: "لفهم كيفية عمل التعلم المعزز في post-training، يلزم موارد حوسبة كبيرة والعديد من التجارب الدقيقة".

التمويل ونقاشات أوسع

يمول Trillium Labs كل من Schmidt Sciences و Halcyon Futures وغيرهما؛ لم يُذكر مبلغ التمويل. يخطط المؤسسون لجذب 40-100 مليون دولار إجمالاً وإنفاق 30 مليون دولار على التدريبات خلال 18 شهراً القادمة.

اشتدت النقاشات بعد أن أصبحت النماذج قادرة تلقائياً على البحث عن الثغرات واختراق الأنظمة؛ وقد أثارت هجمات القرصنة الصاخبة الأخيرة النقاش أكثر. تعمل نماذج OpenAI و Anthropic فقط عبر التطبيق أو API، بينما يتيح مطورون آخرون، خاصة في الصين، تنزيل النماذج. نشرت Xiaomi قبل فترة وجيزة تفاصيل تدريب كبيرة، بينما يطور باحثو ستانفورد نموذج Marin علناً. يؤمن مؤيدو الوصول المحدود بأن مثل هذه القوة يجب أن تبقى في أيدي عدد قليل من الأشخاص الموثوقين؛ بينما يرى لامبرت وزيك أن الجميع يربحون من فهم المخاطر بشكل مشترك.

عمل لامبرت سابقاً في Ai2 و Hugging Face وأسس American Truly Open Models، التي تدعو الشركات الأمريكية إلى إصدار نماذج مفتوحة. عمل زيك في هارفارد وساعد في تطوير سياسة "الذكاء الاصطناعي المسؤول" في Charles Schwab. يقول لامبرت: "نحن نعيش في عصر تهيمن فيه عدة رؤى عالمية على النقاش حول الذكاء الاصطناعي". "نؤمن أن المنهج العلمي والقياس الدقيق لأحدث الأحداث هو أفضل طريق لفهم السلوكيات الجديدة لنماذج الذكاء الاصطناعي".