Cloudflare פרסמה תחקיר על תקלה במודל GLM‑5.3 ב-Workers AI, שבמקרים מוגבלים החזירה ללקוח תוכן מבקשות של לקוחות אחרים. האירוע השפיע על המודל @cf/zai-org/glm-5.3 בין 27 באוגוסט ל-9 בספטמבר 2026, ותוקן לפני הפרסום המתואם ב-26 באוקטובר.
מה קרה
GLM‑5.3 הוגדר עם חלון הקשר של 1,048,576 Tokens, אך מאגר ה-KV cache בשרתי ה-Prefill הכיל מקום ל-681,280 Tokens בלבד. Cloudflare ציפתה שבקשה גדולה מדי תידחה בשגיאה, אולם באחד ממסלולי הכשל של SGLang הבקשה סומנה כדחויה והוחלפה פנימית ב-Token יחיד — בלי לעצור את התהליך כולו.
שרת ה-Decode קיבל הודעה שהעברת ה-Cache הושלמה והניח שהמצב הקודם נדרס. בפועל, חלק מדפי ה-Cache של בקשה קודמת נשארו בזיכרון. כתוצאה מכך תגובה לבקשה ארוכה במיוחד יכלה להתבסס גם על מידע שנותר מסשן של לקוח אחר.
היקף החשיפה
לפי Cloudflare, 155 תגובות הושפעו, כולן לבקשות ארוכות מ-681,280 Tokens. לאחר ניכוי בדיקות החברה והחוקר, דפוס הבקשות נראה עקבי עם שימוש רגיל בהקשר ארוך. החברה מסרה שלא מצאה ראיה לניצול מכוון. היא גם אישרה שלא הושפעו מודלים אחרים ב-Workers AI.
כיצד התקלה התגלתה ותוקנה
החוקר גדי עברון מ-Knostic דיווח על הבעיה ב-8 בספטמבר דרך HackerOne. Cloudflare שחזרה את הדליפה בשני חשבונות נפרדים, הפכה את המודל לפרטי, תיקנה את התצורה ובנתה מחדש את ההפצה עם Patch למנוע של SGLang. המודל הוחזר לשירות ב-9 בספטמבר.
התיקון כלל שתי שכבות:
- הגדלת מאגר ה-KV: התצורה שונתה כך שהמאגר יכיל כ-2.04 מיליון Tokens — יותר מחלון ההקשר המלא.
- תיקון מסלול הדחייה: בקשה שנדחתה נעצרת לפני Bootstrap, הקצאה או העברת KV cache. נוספו גם בדיקות שמספר ה-Tokens שהועבר תואם למספר שהוקצה.
הלקח למפעילי תשתיות AI
- לא להסתפק בבדיקות הצלחה; יש לבדוק במכוון בקשות מעל גבולות הזיכרון וההקשר.
- להוסיף Canary markers כדי לזהות זליגת State בין Tenants.
- לאמת שכל מסלול דחייה או Timeout מוחק או מבודד Cache לפני שימוש חוזר.
- לבדוק התאמה לאחר שינוי Quantization, Tensor Parallelism, גרסת מודל או גודל CUDA graph.
- לדרוש בדיקות Cross-tenant ממנועי Inference, במיוחד בפריסות Prefill/Decode מופרדות.
השורה התחתונה: זו לא הייתה בעיית הרשאות רגילה אלא כשל בבידוד מצב בזיכרון של מנוע Inference. התקרית ממחישה שמערכות AI מרובות לקוחות צריכות להתייחס ל-KV cache כאל מידע רגיש ולבדוק בידוד גם במסלולי שגיאה נדירים.
מקור: תחקיר Cloudflare, 26.10.2026.
צילום: William Warby / Pexels. דף המקור והרישיון.
