AWS تطلق حاوية WhisperX على SageMaker AI مع تمييز المتحدثين

نشرت AWS دليلاً عملياً لتشغيل WhisperX، وهو مشروع مفتوح المصدر للنسخ الصوتي مبني على نموذج Whisper من OpenAI، على Amazon SageMaker AI. يشرح المقال حاوية AWS WhisperX Deep Learning Container وكيفية تشغيلها عبر نقطة نهاية فورية أو غير متزامنة.

ما الذي تضيفه WhisperX إلى Whisper

ينسخ Whisper الكلام بدقة في لغات كثيرة، لكنه يعيد الطوابع الزمنية على مستوى العبارة ولا يحدد من يتحدث. تضيف WhisperX ثلاثة أشياء: معالجة على دفعات لنسخ أسرع، ومحاذاة قسرية باستخدام wav2vec2 لطوابع زمنية على مستوى الكلمة، وتمييز المتحدثين.

تضم الحاوية Whisper ونماذج المحاذاة وأوزان تمييز المتحدثين في صورة واحدة مهيّأة لوحدات GPU، من دون الحاجة إلى رمز Hugging Face. تعمل على المنفذ 8080، وتوفر POST /invocations وGET /ping، وتقبل multipart/form-data مع ملف الصوت وحقول مثل language وdiarize، وتعيد النتيجة بصيغ json أو verbose_json أو srt أو vtt.

نقطة نهاية فورية أم غير متزامنة

نقطة النهاية الفورية متزامنة: يُرسل الصوت في الطلب ويعود النص في الاستدعاء نفسه، لذلك يجب أن ينتهي المقطع خلال سقف الستين ثانية في SageMaker AI. وتُحتسب التكلفة طالما بقيت قيد التشغيل.

ترفع نقطة النهاية غير المتزامنة الصوت إلى Amazon S3، وتستدعي InvokeEndpointAsync بمرجع الكائن، وتراقب مسار المخرجات، مع مسار فشل منفصل للمهام المتعثرة. لا يوجد سقف لزمن الاستجابة، لذلك توصي AWS بهذا المسار للتسجيلات الطويلة والعمل بالدفعات، ويمكن تصغيره إلى صفر من النسخ عند الخمول.

تفاصيل الإنتاج واختبار الرحلة 1549

يحتاج المساران إلى المكوّنات نفسها: ml.g4dn.xlarge لتقليل الكلفة أو ml.g5.2xlarge لمساحة أكبر، وتثبيت GPU AMI على الإصدار al2-ami-sagemaker-inference-gpu-3-1، وبدونه لا تعمل صورة CUDA 12.8 وتعيد CannotStartContainerError بسجل فارغ. تعالج كل حاوية طلباً واحداً، لذا تُزاد الطاقة بإضافة نسخ، ويجب أن يحتوي اسم دلو S3 في الوضع غير المتزامن على كلمة sagemaker.

يعالج الدفتر التجريبي تسجيلاً عاماً لتبادل الاتصالات الجوية من رحلة US Airways Flight 1549، بضجيج الراديو والنداءات السريعة: ثلاث دقائق إلى نقطة النهاية غير المتزامنة و40 ثانية إلى الفورية. وتنصح AWS كذلك بإشعارات SNS بدل الاستعلام المتكرر، وبمجموعة تصل إلى خمسة أنواع من النسخ، وبـ S3 Block Public Access، وبإخفاء البيانات الشخصية باستخدام الطوابع الزمنية للكلمات. تُحتسب تكلفة نقاط نهاية GPU حتى حذفها.