AWS הכריזה ב־27 באוקטובר 2026 על תמיכה בתמונות קונטיינר עם אינדקס SOCI עבור עבודות אימון ועיבוד ב־Amazon SageMaker AI. המנגנון מאפשר לטעון רק את הקבצים הנחוצים להפעלת הקונטיינר, בזמן ששאר שכבות התמונה מוזרמות ברקע. התוצאה: התחלה בתוך שניות במקום המתנה של דקות להורדת התמונה כולה.
הבעיה: זמן GPU שמתבזבז על הורדה
תמונות קונטיינר של למידה עמוקה יכולות להגיע לעשרות גיגה־בייט. בגישה רגילה, סביבת העבודה ממתינה עד שכל השכבות יורדו לפני שהקוד מתחיל לרוץ. ההמתנה היא חלק מזמן העבודה המחויב, אך אינה מקדמת את האימון. כאשר צוות מפעיל ניסויים רבים או עבודות קצרות, התקורה הזו מצטברת.
SOCI, קיצור של Seekable OCI, יוצר אינדקס שממפה את תוכן התמונה. סביבת הריצה יכולה לגשת לקבצים לפי צורך בלי לפרוס מראש את כל הארכיון. SageMaker מתחילה את הקונטיינר מהחלקים הדרושים וממשיכה להזרים את היתר בזמן שהעבודה כבר רצה.
תוצאות הבדיקה של AWS
AWS בדקה שמונה תמונות דחוסות בגודל 1.8 עד 35.4 גיגה־בייט על מגוון מופעי CPU ו־GPU. לפי הנתונים שפורסמו, תמונה של 13.2 גיגה־בייט ירדה בגישה הרגילה בתוך 3 דקות ו־42 שניות, לעומת כשש שניות בטעינה עצלה. בתמונה של 35.4 גיגה־בייט ירד זמן ההמתנה מ־7 דקות ו־17 שניות לטווח של 3–11 שניות.
החברה מדווחת על הפחתה של עד 90% בזמן שבו ה־GPU נשאר ללא עבודה בזמן משיכת התמונה. מדובר במדדי AWS ובסביבת הבדיקה שלה; החיסכון בפועל תלוי בגודל התמונה, בדפוס הגישה לקבצים, בסוג המופע ובמיקום המאגר.
שתי דרכי אימוץ
- תמונת DLC מוכנה: AWS מפרסמת גרסאות עם הסיומת
-sociעבור PyTorch Training, TensorFlow Training, vLLM ו־SGLang. מעבר לתג המתאים מפעיל את הטעינה העצלה. - תמונה ארגונית: אפשר ליצור אינדקס SOCI לתמונה מותאמת ולשמור אותו לצד התמונה במאגר Amazon ECR פרטי. AWS מציעה גם תבנית שמייצרת אינדקס אוטומטית לאחר דחיפת תמונה חדשה.
אין צורך לשנות את הגדרת העבודה, נקודת הכניסה, ערוצי הנתונים או קריאות ה־API. אם בונים תמונה חדשה על בסיס DLC, צריך ליצור אינדקס לתוצר הסופי; האינדקס של תמונת הבסיס אינו עובר אוטומטית.
מגבלות שכדאי לבדוק
- הטעינה העצלה נתמכת בתמונות הנמצאות במאגרי ECR פרטיים. מאגרים חיצוניים או משיכה דרך Docker Registry פרטי אינם זכאים.
- בתמונות קטנות מכ־4 גיגה־בייט השיפור צפוי להיות מתון יותר.
- סביבת הריצה מבוססת containerd. סקריפטים שמניחים קיום של Docker CLI, docker.sock או מבנה cgroup מסוים דורשים בדיקה.
- יש לוודא שהתג אכן מצביע ל־OCI Image Index הכולל artifact מסוג SOCI לפני הפעלת העבודה.
איפה הערך העסקי
החיסכון משמעותי במיוחד בצוותים שמריצים ניסויים תכופים, עבודות עיבוד קצרות, בדיקות CI או משימות שנפתחות ונסגרות לפי ביקוש. התחלה מהירה יותר מקצרת את מחזור המשוב למפתחים ומצמצמת זמן GPU מחויב שאינו מייצר תוצאה.
התמיכה זמינה בכל אזורי AWS, אך כדאי להריץ מבחן השוואתי עם תמונה ועומס אמיתיים. מדד נכון אינו רק זמן העלייה של הקונטיינר, אלא משך העבודה הכולל, עלות ההרצה והשפעת הזרמת הקבצים על שלבי האימון הראשונים.
מקור: AWS Machine Learning Blog, 27.10.2026.
המחשה: Maxim Landolfi / Pexels. דף המקור. רישיון Pexels מתיר שימוש באתר, בסושיאל ובחומר שיווקי; היצירה מופשטת ואינה כוללת אדם או מותג מזוהה.
