Cloudflare כווצה 70 GB/s מצינור הנתונים בשינויי סכימה, דחיסה ודגימה

צוות הנתונים של Cloudflare, שמעביר נתונים מהרשת הגלובלית של החברה למרכזי נתונים מרכזיים, מתאר סדרת אופטימיזציות שהסירו בין האביב לסתיו של אותה שנה כ-70 GB/s של תעבורה מכווצת מהמגיסטרלה. הצוות מעביר כשני מיליארד אירועים בשנייה ונתקל בעיכוב בצמיחה אקספוננציאלית בתעבורה מול צמיחה ליניארית בטכנולוגיה.

פיצול הסכימה ודחיסה

ב-2022 Cloudflare פיצלה את סכימת ההודעות המונולית אחת שלה, שאיחדה את שדות כל המוצרים בחוט אחד ואלצה לקוחות פנימיים לקבל הכול לפני הסינון. החלפה בסכימות מותאמות למוצר הפחיתה את ניצול רוחב הפס במגיסטרלה ב-35-40%, ששווה לכשנה של צמיחה בתעבורה מכווצת. ב-2024 הצוות עבר מדחיסת LZ4 ל-zstd, לאחר שאימתה כי בזמן נינוע שלבי ההשפעה על ה-CPU הייתה זניחה. השינוי הפחית את רוחב הפס של התעבורה המכווצת בכ-40% ואפשר לאותה התשתית להעביר פי 1.5 יותר תעבורה.

פיזור עומס ודגימה מוקדמת

באביב 2026 Cloudflare בנה מחדש את השכפול לעמידות באסונות. במקום ש-Logfwdr יכתוב כל אירוע לא-אזורי פי שתיים בשני אזורים מרכזיים, כעת כל אירוע עובר פעם אחת דרך טרנזיט אזור רחב, עם מאגר קבלה משותף ומעבר אוטומטי שמבוסס על מודל השירות Logpush. שכפול בין מרכזי הנתונים מתרחש בסוף צינור הנתונים, אחרי הדגימה, באמצעות שכבת החיץ של Buftee. על אצוות שהועברו זה ביטל כ-43 GB/s של טרנזיט מכווץ, בעוד השכפול הוסיף רק כ-7 GB/s; ההפחתה הנקייה היא 36 GB/s. תעבורת הניתוחים של HTTP ירדה ביותר מ-50%, וה-Ready-Analytics ירד מכ-28 GB/s ל-16 GB/s.

בקיץ 2026 הדגימה עברה לתוך Logfwdr עצמו. האלגוריתם מערבב רשומות לפי מפתח, ולאחר מכן שומר דגימה ששווה לשורש הריבועי של מספר הרשומות, ומעריך את ההתאה למקדם הדגימה. בהחלה על שלושת אצוות הנתונים המובילים הוא הפחית את הנתונים המכווצים שנשלחו ברשת לפחות בחצי, וחסך 25 GB/s ביום, כלומר יותר מ-2 PB.

איגוג מוקדם יותר

בסתיו 2026 Cloudflare הכניסה איגוג rollup בכל שלב של צינור הנתונים: במופעי Logfwdr, במקלטים מרכזיים, בכותבי ClickHouse ובמנועי טבלאות מאגדות של ClickHouse. באצוות נתוני HTTP התעבורה המכווצת ירדה מעל 9 GB/s לפחות מ-2 GB/s, הפחתה של כ-80%. הצוות שוחרר גם את Ready-Aggregates, מוצר אנליטיקה איגוגית שניתן להפעיל בקליק אחד.

התוצאה

פיזור העומס בצינור הנתונים חסך כ-38 GB/s, הדגימה כ-25 GB/s, והאיגוג יותר מ-7 GB/s. מקלטי Ready-Analytics שחררו כ-750 CPU ו-3.5 TiB זיכרון. ללא התערבויות, רק אצוות נתונים אלה היו חורגים מ-60 GB/s לספטמבר. בסך הכול, הקיבולת נשארת כחודשים שמונה מאחורי מסלול הצמיחה שחזו קודם לכן, והשינויים שיושמו השנה הפחיתו בחצי את נפח הנתונים הצפוי של Cloudflare ל-2031. יחד עם עבודות קודמות, שיפורי חמש השנים האחרונות שווים לעיכוב של שנתיים וחצי בהרחבת חומרה.

מקורות: Cloudflare