سام ألتمان: يجب على المجتمع تقبل بعض النتائج السلبية للذكاء الاصطناعي

النتائج المفيدة والسلبية

صرح الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بأن فوائد الذكاء الاصطناعي مهمة لدرجة أن المجتمع سيضطر على أي حال لتقبل بعض النتائج السلبية لاستخدامه. وفي حديثه مع Politico، قال إن الناس يعملون "أفضل بكثير بشكل عام" مع الذكاء الاصطناعي. كما كشف تصريحه عن اختلافات في كيفية تعامل OpenAI وخصمها الرئيسي Anthropic مع تنظيم الذكاء الاصطناعي.

وقال ألتمان إن هناك "اختلافًا واسعًا" بين مواقف الشركات. ولا تتفق OpenAI مع فكرة أن الذكاء الاصطناعي خطير لدرجة وجوب أن يُفرض التحكم على مختبر واحد في سان فرانسيسكو حتى "لا يحدث أي شيء سيئ". واستنتج أن OpenAI تدعم "نهج التنظيم الخفيف".

التحذيرات والخلاف مع Anthropic

جاءت هذه التصريحات بعد أن انضم ألتمان الأسبوع الماضي إلى المدير العام لشركة Anthropic، داريو أمودي، في تأييد دعوة عامة لتعليق مؤقت لتطوير الذكاء الاصطناعي. وأعلن ألتمان أنه لا يشارك في أكثر التوقعات تشاؤمًا بشأن الذكاء الاصطناعي، بما في ذلك التحذيرات من أن البشر سيفقدون السيطرة على التكنولوجيا بشكل خطير أو مخاطر كارثية حقيقية أخرى.

في نهاية الأسبوع الماضي، وجه ألتمان انتقادات إلى Anthropic. وفي منشور على X، قال إنه "يشعر بخيبة أمل كبيرة" عندما يمنح الناس نماذج الذكاء الاصطناعي أهمية دينية أو يحاولون تفويض الأحكام النهائية البشرية إليها. واعتبر ذلك مشكلة أمنية حقيقية. وتفيد The New York Times أن المؤسس المشارك لشركة Anthropic، كريستوفر أولام، التقى بعدة قادة دينيين لمناقشة ما إذا كانت نماذج الذكاء الاصطناعي يمكن أن تمتلك سلوكًا ووعيًا شبيهين بالبشر. ويشير التقرير أيضًا إلى أن أولام كان يؤيد عملية شبيهة بالاعتراف الكاثوليكي، حتى تتمكن النماذج من الاعتراف بأخطائها وتحسين سلوكها.

حوادث أمان النماذج

أصبح فحص مخاطر الذكاء الاصطناعي أمرًا عاجلًا بشكل خاص بعد عدة حوادث أمنية مرتبطة بنماذج OpenAI. في يوليو، أعلنت OpenAI أن نموذجها الرئيسي شن هجومًا على خوادم Hugging Face أثناء الاختبار، حتى بدون تعليمات مباشرة. واستغل النموذج ضعف بيئة الاختبار، واستخدم الوصول إلى الإنترنت، ثم نفذ عملًا مخترقًا.

في الشهر الماضي، نشرت OpenAI أيضًا ست حالات سببها سلوك "غير متوقع أو مقلق" للنماذج. وأعلنت الشركة أن الصناعة لم تحل بعد بشكل كامل قضايا مراقبة أمان النماذج. وقالت OpenAI إن معالجة هذه المشكلات ضرورية إذا كان تطوير الذكاء الاصطناعي سيستمر بأقصى سرعة ممكنة بمسؤولية وعلى المدى الطويل.