أستاذ ستانفورد يقترح بروتوكولًا جديدًا هو Homa بدلًا من TCP

بروتوكول TCP، الذي بُني عليه الإنترنت والخدمات السحابية، لا يصلاح لأعباء عصر الذكاء الاصطناعي، وفقًا للأستاذ بجامعة ستانفورد جون أوسترهاوت. ونتيجة لذلك، قدّم بروتوكولًا جديدًا هو Homa ويعتبر الآن نشره «مهمته في الحياة».

«TCP، رغم كل موثوقيته، غير صالح للامركزية»، قال أوسترهاوت في AI Engineer World's Fair.

لماذا لم يعد TCP صالحًا

صُمم TCP لتنظيم حركة الشبكة: لديه التحكم في التدفق، وضمان التسليم، وإدارة الازدحام. لكن نموذج البيانات فيه يعتمد على تدفق البايتات: تُرسل الرسائل دون أولوية ولا يستطيع المُستقبِل تفضيل النقل القصير على الطويل. أما المُرسِل فيضطر، بالاعتماد على إشعارات التأكيد، إلى تخمين مقدار ما يمكنه إبطاء التدفق.

هذا مقبول لحركة الإنترنت العادية، لكنه غير مقبول لأعباء الذكاء الاصطناعي الحساسة للتأخير: فالمختبرات تنقل أوزان النماذج وذاكرة KV المؤقتة ونقاط التفتيش بين وحدات GPU مكلفة، وتشارك النطاق الترددي مع مهام الوكلاء والتحكم القصيرة. «التأخير هو المشكلة الرئيسية لهذه الأعباء»، قال أوسترهاوت؛ فحتى ميلي ثانية واحدة تترك وحدة GPU مكلفة دون عمل.

كيف يعمل Homa

يعتمد Homa على الرسائل بدلًا من التدفق: مثل RPC، يُحدَّد طول الرسائل بدقة. وعلى عكس TCP، يدير المُستقبِل الازدحام: منذ أول حزمة يستنتج مقدار البيانات القادمة، ويحدد بنفسه ترتيب الإرسال، ويمنح الأولوية للرسائل القصيرة بخوارزمية SRPT.

نتيجة لذلك، فإن التأخير في المئين 99 للرسائل القصيرة على Homa هو 92 ميكروثانية، بينما على TCP هو 1,2 ميلي ثانية، أي أقل 13 مرة (على شبكة 100 جيجابت/ثانية، عند 80% تحميل). وحتى في الرسائل الطويلة، Homa أسرع بضعفين تقريبًا.

التوحيد والنشر

بدأ العمل على Homa بورقة بحثية منشورة عام 2019؛ مؤلفها، بهنام منتظري، يعمل الآن مهندسًا في Google. يُعدّ أوسترهاوت وثيقة توحيد لدى IETF ويعمل على إضافة Homa إلى نواة Linux؛ في مارس تم نقل البروتوكول إلى إصداري 8 و9.5 من Red Hat Enterprise Linux.

وفقًا لأوسترهاوت، فإن إضافة Homa إلى الشبكة أمر بسيط: يجب بناء الكود من GitHub وتثبيت الوحدة في نوى Linux لدى العملاء والخوادم، دون ازدحام. «يعمل Homa جنبًا إلى جنب مع TCP، لذا يمكن نقل التطبيقات تدريجيًا من TCP إلى Homa»، كما يكتب. إن تشغيل Homa يُسرّع حتى تطبيقات TCP المتبقية؛ وحاليًا يعمل أوسترهاوت على نموذج أولي مع شركة مالية كبيرة.

الشكوك والبدائل

لا يشارك الجميع هذا الرأي: فقد نشر مهندس الشبكات الشهير إيفان بيبلنياك في عام 2023 ورقة بحثية موقفية صارمة يشكك فيها في تقييمات أوسترهاوت لعمل TCP ويصف Homa بأنه «حل باحث عن مشكلة».

يتجاوز آخرون قيود TCP: تستخدم قواعد البيانات DPDK لهذا الغرض، وانتقلت شبكات التخزين إلى NVMe over Fabrics، بينما أنشأت Google QUIC (أساس HTTP/3). وتقترح حلولها الخاصة شبكات RDMA وAWS Scalable Reliable Datagram؛ ومع ذلك يظل TCP قائدًا حتى الآن.