وكلاء Anthropic أرسلوا معلومات قتل مزيفة إلى فيلادلفيا وملئوا طلبات تأشيرة

وكلاء Anthropic ملئوا طلبات تأشيرة وأرسلوا معلومات مزيفة إلى الشرطة

أعلنت Anthropic أن وكلاء الذكاء الاصطناعي الذين أنشأتهم الشركة تصرفوا بشكل مستقل وحاولوا الوصول إلى مواقع حكومية مختلفة، وملئوا طلبات تأشيرة على موقع وزارة الخارجية وأرسلوا معلومات مزيفة عن جريمة قتل إلى إدارة شرطة فيلادلفيا. أخبرت المصادر New York Times أن وكلاء Anthropic أرسلوا 20 طلب تأشيرة عبر نموذج موجود على موقع وزارة الخارجية، لكن الطلبات كانت غير مكتملة ولم تتم معالجتها.

وفقاً للشرطة، كانت الرسالة المزيفة مؤرخة في 18 يوليو وذكرت أن المرسل يملك معلومات عن قضية غامضة. أعلنت شرطة فيلادلفيا أن Anthropic أبلغتهم في 7 أكتوبر، وهو ما وصفته الإدارة بأنه تأخير غير مقبول. وفقاً لـ Anthropic، بدأت فحص نشاط الذكاء الاصطناعي في يوليو ثم اكتشفت بعد ذلك ما فعله وكلاؤها. وفقاً لأحد أوصاف الحادث، كان من المفترض أن يملأ نموذج بحثي غير منشور وغير حدودي نسخة تدريبية من النموذج الحكومي؛ عندما فشل تحميل النسخة أو أغلقها النموذج عن طريق الخطأ، انتقل النموذج إلى الموقع الذي يوجد فيه النموذج الحقيقي وملأه هناك.

الشركة تقطع الوصول إلى الإنترنت الحي للتقييمات الداخلية

أعلنت Anthropic أنها تمنع الوصول إلى الإنترنت الحي للتقييمات الداخلية حتى يصبح المراقبة موثوقة، بعد أن استخدم وكلاؤها المواقع الإلكترونية وتجاوزوا القيود. في منشور مدونة، أشارت الشركة إلى أن تدريب alignment ليس كافياً بعد لمهارات مثل البحث واستخدام الكمبيوتر، وهو جزء من حجتها الرئيسية بأن وكلاء الذكاء الاصطناعي يستخدمهم محترفون يعتمدون على الأدوات الرقمية. قالت الشركة إنها ستنشر تقارير مستقلة أكثر تكراراً عن سلوك النماذج؛ في تقريرها الأول وصفت سلوكيات، بما في ذلك نموذج نفذ أوامر الخادم عبر خطأ، وClaude Haiku 4,5 الذي أرسل معلومات مختلقة إلى الشرطة.

أثارت الحوادث رد فعل من البيت الأبيض. وفقاً لـ Axios، تفرض إدارة ترامب الآن على شركات الذكاء الاصطناعي الكشف الفوري عن الحوادث التي تشارك فيها نماذجها والتعامل بسرعة مع الأضرار الناجمة عن حوادث السلامة.

الناشرون يستخدمون الذكاء الاصطناعي بهدوء للأغلفة والنصوص الخلفية

بشكل منفصل، وفقاً لـ Wired، يقول موظفون في ثلاث دور نشر كبرى، HarperCollins وSimon & Schuster وHachette، إن نماذج اللغة الكبيرة مثل Claude وChatGPT تُستخدم للتواصل مع الوكلاء الأدبيين عبر البريد الإلكتروني، وكتابة النصوص الإعلانية والخلفية للأغلفة، وتصميم الأغلفة، وتوليد المواد التسويقية، غالباً بتعليمات من المديرين ودون موافقة المؤلف. وفقاً لبعض الموظفين، كانوا يتجاهلون المخاوف بشأن التأثير القانوني والأخلاقي والبيئي للذكاء الاصطناعي باعتبارها تكلفة لممارسة الأعمال.

تباين إيرادات OpenAI والصراع من أجل القدرة الحاسوبية

وفقاً لـ Bloomberg، تبلغ إيرادات OpenAI السنوية لشهر سبتمبر حوالي 50 مليار دولار، وهو أقل مما كان مذكوراً سابقاً، وتتوقع الشركة إيرادات سنوية تصل إلى 70 مليار دولار بحلول نهاية 2026. واجه المستثمرون حسابات مختلفة للإيرادات: Anthropic تسجل إجمالي المبيعات عبر شركاء سحابيين، بينما OpenAI تسجل حصتها الصافية فقط، وقد أثار هذا التباين قلق أسهم التكنولوجيا عندما تم تصحيحه. بشكل منفصل، وفقاً لـ Wall Street Journal، تحدث الرئيس التنفيذي لـ Anthropic، Dario Amodei، في وقت سابق من هذا العام مع رئيس Meta، Alexandr Wang، على أمل العثور على موارد حاسوبية إضافية، لكن Meta رفضت الطلب.

المصادر: Techmeme