تخطط OpenAI لإطلاق نموذج واحد أو اثنين هذا العام، لكن الطراز الرئيسي لا يزال يحتاج إلى عمل على المواءمة

جدول إطلاق النماذج

تخطط OpenAI لإطلاق "نموذج جديد واحد أو اثنين" بنهاية العام، كما يقول موظفون مطلعون نقلتهم The Information. من غير الواضح ما إذا كان الطراز الرئيسي المحدّث للشركة من بينها. لا يزال الطراز الرئيسي يحتاج إلى عمل على المواءمة لتتوافق أهدافه مع ما يتوقعه باحثو OpenAI ومستخدموها، كما يجب على الشركة أيضاً تعزيز البنية التحتية للاختبارات حول النموذج.

وفقاً لتوجيهات الرئيس دونالد ترامب التي تنظم تقييم أنظمة الذكاء الاصطناعي المتقدمة، وافقت OpenAI على منح الحكومة الأمريكية وصولاً إلى النماذج الجديدة قبل الشركاء الخارجيين بـ 30 يوماً، وقبل الإطلاق العام بوقت أطول.

المحولات المتكررة والأمان

يستخدم الطراز الرئيسي نفس تقنية looped transformer التي يستخدمها Astra، النموذج الأعلى حالياً لدى OpenAI، حيث تُسمى هذه الطريقة "Recurrent Depth". بدلاً من تمرير الرمز عبر طبقات المحول مرة واحدة، يمرّره النموذج عبر نفس الطبقات عدة مرات قبل إنتاج الكلمة التالية. يعزز هذا النهج النتائج الرياضية والبرمجية ويقلل التكاليف، لأن النموذج الصغير يمكنه إنجاز أكثر من حجمه.

في المقابل، تصبح الرقابة أكثر صعوبة. التمرير عبر الدورات ينقل جزء "تفكير" النموذج من نص مقروء إلى تمثيلات رقمية داخلية لا يستطيع المشرفون البشريون التحقق منها، مما يضعف مراقبة سلسلة التفكير. حددت OpenAI عمداً عدد الدورات التي يجريها Astra للحفاظ على سلسلة تفكيره مقروءة. اعترف العالم الرئيسي ياكوب باتشوكي أن مراقبة سلسلة التفكير تزداد "غموضاً" و"لسوء الحظ، تتطور في اتجاه سلبي"، وحذّر الصناعة من الاندفاع نحو نماذج لا تملك استدلالاً مقروءاً.

إعادة توزيع القدرة الحاسوبية وتسريب Microsoft

بعد حادثة Hugging Face، أعادت OpenAI توزيع حوالي 10 بالمئة من إجمالي القدرة الحاسوبية على المواءمة والأمان، وفقاً لشخص مطلع على البيانات. يعادل هذا مئات الميغاواط من قدرة مركز البيانات، رغم أن مقدار ما خُصص للأمان حتى الآن أو كيف يبدو التوزيع الحالي غير واضح. بأسعار السوق، كان تأجير القدرة الحاسوبية المعاد توزيعها سيكلف مليارات الدولارات سنوياً. قال باحث الذكاء الاصطناعي نوآم براون في بودكاست منتصف سبتمبر إن حوالي 10 بالمئة من فريقه يعمل على الأمان والحماية.

كشفت Microsoft، المستثمر الكبير الذي يملك وصولاً إلى الملكية الفكرية لـ OpenAI، عن كيفية عمل هذه التقنية بالصدفة. في جزء محذوف الآن من المراجعة التقنية للبدائل الأرخص لـ Astra، المُطلق GPT-6.1 Sol في بداية هذا الشهر، وصفت Microsoft "looping inference"، حيث يعالج النموذج نفس المشكلة بعدة "تمريرات". كتب الصفحة أن GPT-6.1 Sol "يستخدم أوزان النموذج الأساسي نفسه مثل GPT-6 Sol، لكن بتمريرتين استدلال بدلاً من ثلاث". حذفت Microsoft هذا الجزء بعد أن أدركت أنه لا ينبغي أن يكون عاماً.

المصادر: The Decoder