Cloudflare פרסמה דוח טכני על אירוע אבטחה שבו מודל GLM‑5.3 בשירות Workers AI עלול היה להחזיר מידע מתוך בקשות של משתמשים אחרים. החשיפה נבעה משילוב בין הגדרה שגויה של מאגר ה‑KV Cache לבין תקלה במנוע ההסקה SGLang. Cloudflare מסרה שהבעיה תוקנה, שהמודל הוחזר לפעילות ב‑9 בספטמבר 2026 וששום מודל אחר ב‑Workers AI לא הושפע.
מה בדיוק השתבש?
GLM‑5.3 הוגדר עם חלון הקשר של 1,048,576 טוקנים, אך מאגר ה‑KV Cache בשרתי ה‑Prefill היה מסוגל להכיל 681,280 טוקנים בלבד. Cloudflare ידעה על הפער, אך ציפתה ש‑SGLang יחזיר שגיאה לבקשה ארוכה מדי.
בפועל, כאשר בקשה חרגה מגודל המאגר, SGLang סימן אותה כדחויה והחליף אותה זמנית בטוקן יחיד. במצב ההפעלה המבוזר של Cloudflare, ההודעה על הדחייה לא עצרה את תהליך ההעברה לשרת ה‑Decode. השרת הניח שכל דפי הזיכרון נכתבו מחדש, אף שרק הדף הראשון עודכן.
כתוצאה מכך, מנגנון ה‑Attention יכול היה לקרוא דפי KV ישנים שנותרו מבקשות קודמות. תשובה לבקשה ארוכה מ‑681,280 טוקנים הייתה עשויה לכלול קטעי מידע מסשנים אחרים, תוך החזרת HTTP 200 במקום שגיאה.
ציר הזמן והיקף האירוע
- 27 באוגוסט: GLM‑5.3 הושק ב‑Workers AI עם מאגר קטן מחלון ההקשר.
- 8 בספטמבר: חוקר האבטחה Gadi Evron מחברת Knostic דיווח על הבעיה.
- 9 בספטמבר: Cloudflare אימתה את התקלה, הפכה את המודל לפרטי, תיקנה את ההגדרה והוסיפה Patch למנוע.
- בהמשך אותו יום: המודל הוחזר לפעילות לאחר בדיקות שחזור ו‑Canary.
- 26 באוקטובר: הדוח פורסם בתיאום עם החוקרים ומפתחי SGLang.
Cloudflare מדגישה כי רק המודל @cf/zai-org/glm-5.3 הושפע. בשאר הפריסות המבוזרות שלה מאגר ה‑KV גדול יותר מחלון ההקשר ולכן מסלול התקלה לא היה נגיש.
מה תוקן?
Cloudflare הגדילה את מאגר ה‑KV כך שיוכל להכיל את מלוא חלון ההקשר, והוסיפה בדיקה המונעת מבקשה דחויה להגיע לשלב ההעברה. בנוסף, מנגנון ה‑Decode מאמת כעת שמספר הטוקנים שהועברו תואם למספר שהוקצה.
שינויים נוספים כוללים שחרור מושהה של דפי זיכרון, הגבלת גודל Batch בהעברות Mooncake, בדיקות קבועות בין גודל המאגר לחלון ההקשר ומנגנוני Canary ו‑Checksum לזיהוי שחיתות בזיכרון.
מה צריכים לבדוק מפעילי SGLang?
- לוודא שגודל מאגר ה‑KV בפועל גדול או שווה לחלון ההקשר של המודל.
- לעדכן ל‑SGLang 0.5.22 ומעלה, או לבצע Backport לתיקונים הרלוונטיים.
- להפעיל Deferred Release בשני צדי הפריסה המבוזרת ולהגביל את משך וגודל העברות ה‑KV.
- לבדוק לא רק קוד HTTP וזמן תגובה, אלא גם את תקינות ופענוח הפלט בבדיקות Long Context.
- לנטר תשובות חריגות, זמני Prefill קצרים מהצפוי וסימנים לתוכן שאינו שייך לבקשה.
לארגונים שהשתמשו ב‑GLM‑5.3 דרך Workers AI בתקופת החשיפה מומלץ לבדוק אם נשלחו למודל נתונים רגישים, לסקור לוגים זמינים ולהעריך את הצורך בהחלפת סודות. עם זאת, עצם השימוש במודל אינו מוכיח שמידע נחשף; ההערכה צריכה להתבסס על סוג הבקשות והתקופה הרלוונטית.
מקור: Cloudflare — Cross-request KV cache exposure in the GLM-5.3 Workers AI model, פורסם ב‑26 באוקטובר 2026.
צילום: Brett Sayles / Pexels. מקור: Pexels. שימוש בהתאם לרישיון Pexels, המתיר שימוש באתר, ברשתות חברתיות ובחומר שיווקי.
