תקריב של רכיבי מעגל אלקטרוני ומיקרו-שבבים
צילום: Ivan Chumak / Pexels

Google Cloud מגינה על מודלי AI בזמן ריצה עם Confidential G4

Google Cloud הפכה את Confidential G4 לזמין באופן כללי: מופעי G4 עם מעבדי NVIDIA RTX PRO 6000 Blackwell Server Edition יכולים כעת להגן על מודלים, prompts ונתונים רגישים גם בזמן שהם מעובדים על ה־GPU. השילוב מכוון במיוחד לארגונים שמריצים inference, סוכני AI ועומסי עבודה עתירי קניין רוחני — מבלי להעביר את המידע לסביבה לא מוצפנת בזמן החישוב.

מה מוגן ב־Confidential G4?

הפתרון משלב הצפנת זיכרון שקופה, מפתחות חומרה שאינם ניתנים לייצוא ו־remote attestation. המשמעות היא שהארגון יכול לאמת קריפטוגרפית את הקוד, תצורת הפלטפורמה ושלמות סביבת ההרצה לפני שהוא משחרר אליה נתונים או משקלי מודל רגישים. לפי Google, הבידוד נועד להגן גם מפני גישה מצד מנהלי host, שכבת hypervisor או ספק הענן עצמו.

Confidential G4 זמין ב־36 אזורי זמינות, הן כמכונות Compute Engine והן כצומתי GKE. Google מציינת שניתן להשתמש בתמונות Ubuntu רגילות, בדרייברים של NVIDIA ובספריות CUDA-X ללא שינוי בקוד האפליקציה או בנייה מיוחדת.

מה המחיר בביצועים?

בבדיקות של Google על תצורת g4-standard-48 ובמודלים כגון Llama 3, ‏Llama 3.3, ‏ResNet-50 ו־SDXL, הפגיעה בתפוקת inference הייתה נמוכה מ־3.5% לעומת G4 רגיל. זו אינה התחייבות לכל עומס עבודה: Google מדגישה שהתוצאה תלויה בתצורה, בחומרה ובדפוס השימוש, ולכן יש להריץ benchmark ארגוני לפני מעבר ייצור.

למי זה רלוונטי?

  • מודלים קנייניים: הגנה על משקלים, embeddings ונתוני fine-tuning בזמן חישוב.
  • מידע מפוקח: inference על מידע רפואי, פיננסי או אישי בסביבה שניתנת לאימות.
  • שיתוף בין ארגונים: שילוב עם Confidential Space מאפשר לצדדים להריץ אנליטיקה או אימון משותף בלי לחשוף זה לזה את מערכי הנתונים הגולמיים. התמיכה עוברת לזמינות כללית בהדרגה.
  • סוכני AI: הוכחה שהסוכן והכלים שלו רצו בסביבה מאושרת לפני מתן גישה לסודות או למידע רגיש.

בדיקות לפני מעבר לייצור

צוותי ענן צריכים להגדיר מדיניות attestation, לקבוע מי רשאי לשחרר מפתחות ונתונים, לוודא שה־zone וה־machine type זמינים באזור הנדרש, ולבדוק latency ותפוקה בעומס אמיתי. חשוב גם לשמור לוגים של תוצאות attestation ולשלב אותם בתהליך incident response. Confidential Computing מחזק את ההגנה על data in use, אך אינו מחליף IAM מצומצם, הצפנה במנוחה, ניהול סודות או אבטחת שרשרת האספקה של המודל.

מקור

תמונת נושא: Ivan Chumak / Pexels, ברישיון Pexels Free License. התמונה להמחשה בלבד.

דילוג לתוכן