NVIDIA השיקה ב־28 בספטמבר 2026 פלטפורמה פתוחה שנועדה להציב גבולות טכניים לסוכני AI — לא רק בתוך המודל, אלא גם בשכבות התוכנה והחומרה שמריצות אותו. המהלך מגיע בזמן שארגונים מתחילים לתת לסוכנים גישה לקוד, לקבצים, למערכות עסקיות ולפעולות אוטומטיות.
מה כוללת Open Agent Safety Platform?
לפי NVIDIA, הפלטפורמה מורכבת משני רכיבים מרכזיים. הראשון הוא OpenShell, סביבת ריצה בקוד פתוח שמגדירה אילו משאבים, כלים וממשקי API זמינים לסוכן, מתעדת פעולות ואוכפת מדיניות בזמן הריצה. הרכיב השני הוא Sentry, תכנון ייחוס למנגנון פיקוח חיצוני שפועל על מעבדי BlueField-4 DPU.
הרעיון הוא שהפיקוח לא יהיה תלוי רק בסוכן עצמו. אם סוכן מנסה לצאת מהגבולות שהוגדרו לו, שכבת בקרה נפרדת יכולה לזהות את הפעולה ולעצור או לבודד אותו. NVIDIA טוענת שמנגנון Sentry מסוגל לבצע בידוד בתוך אלפיות שנייה, אך מדובר בנתון של היצרנית ויש לבחון אותו בתרחישי עומס ובסביבות אמיתיות.
למה שכבת ההגנה צריכה להיות מחוץ למודל?
סוכן AI שונה מצ'אט רגיל. הוא עשוי לקרוא מסמך, להריץ קוד, לפתוח קריאה למערכת אחרת או לבצע שינוי בשם המשתמש. גם אם ההנחיה הראשונית הייתה תקינה, קלט זדוני מתוך מסמך או אתר עלול לגרום לסוכן לנסות פעולה שלא התכוונו לאשר.
הסתמכות על הנחיות טקסט בלבד אינה מספיקה. ארגון צריך גבולות קשיחים: זהות נפרדת לכל סוכן, הרשאות מינימליות, רשימת יעדים מותרים, הפרדה בין סביבת הבדיקה לייצור, תיעוד מלא ואישור אנושי לפעולות רגישות. שכבת ריצה מבודדת יכולה לאכוף חלק מהכללים גם כאשר המודל טועה או מנסה להשלים משימה בדרך בלתי צפויה.
OpenShell ו־Sentry אינם אותו דבר
- OpenShell: תוכנה פתוחה שמייצרת גבול ריצה, עוקבת אחר פעולות ואוכפת מדיניות גישה.
- Sentry: מנגנון פיקוח מחוץ לסביבת הריצה, המבוסס על BlueField-4, שמנטר את הסוכן ממישור אמון נפרד.
- DOCA: שכבת התוכנה שמאפשרת ל־DPU לבדוק בקשות, לאמת זהות ולאכוף גישת Zero Trust לכלים ולנתונים.
OpenShell מיועדת גם להרחבה לפלטפורמות מחשוב של יצרנים אחרים, ובהם Arm ו־Intel. לעומת זאת, שכבת Sentry קשורה לתשתית החומרה של NVIDIA. לכן ארגון שבוחן את הפתרון צריך להפריד בין מה שפתוח ונייד לבין מה שתלוי בחומרה מסוימת.
מי כבר משתתף במהלך?
NVIDIA פרסמה רשימה רחבה של שותפים הכוללת את Anthropic, Microsoft, Cisco, CrowdStrike, Palo Alto Networks, Red Hat, SAP, Salesforce, HPE וארגונים נוספים. לפי ההכרזה, Claude Managed Agents יכולה לשלב שכבות בידוד נוספות עם OpenShell ו־BlueField, ו־Salesforce משלבת ניהול ואישור בקשות הרשאה מתוך Slack.
רשימת שותפים אינה מעידה שכל האינטגרציות זמינות כיום באותה רמת בשלות. NVIDIA עצמה מציינת שחלק מהמוצרים והתכונות עדיין בשלבי פיתוח ושמועדי ההשקה עשויים להשתנות.
מה מנהלי IT וסייבר צריכים לקחת מההכרזה?
- להגדיר לסוכן זהות והרשאות נפרדות, ולא להשתמש בהרשאות של מנהל מערכת.
- לאפשר גישה רק לכלים, כתובות ונתונים שנדרשים למשימה.
- להפריד בין הרצת קוד לבין המערכת שמנהלת את הסוכן.
- לשמור לוגים של בקשות, תשובות, פעולות ושינויי הרשאות.
- לחייב אישור אנושי למחיקה, העברת כספים, שינוי הרשאות ופעולות בלתי הפיכות.
- להכין מנגנון בידוד וביטול הרשאות מיידי כאשר מזוהה חריגה.
הגישה הזו מתחברת למגמה רחבה יותר של SOC מבוסס סוכני AI, אך היא מדגישה שהסוכן עצמו הוא גם נכס שצריך לנטר. מבחינת צוותי SOC ושירותים מנוהלים כמו MCS, נכון להתייחס לסוכן כאל זהות פעילה נוספת בארגון: למדוד מה הוא עושה, לזהות חריגות ולהשאיר פעולות רגישות תחת בקרה אנושית.
השורה התחתונה
NVIDIA אינה מבטיחה שסוכן AI יהיה בטוח מעצם התקנת הפלטפורמה. היא מציעה ארכיטקטורה שבה ניתן להציב גבולות מחוץ למודל ולאכוף אותם בשכבות נוספות. עבור ארגונים שמתכננים לחבר סוכנים למערכות ייצור, זו התזכורת החשובה: אוטונומיה חייבת להגיע יחד עם זהות, הרשאות, תיעוד, בידוד ואפשרות עצירה.
מקור: NVIDIA Open Agent Safety Platform, פורסם ב־28 בספטמבר 2026.
תמונת המחשה: נוצרה באמצעות AI עבור מערכת ITPortal.
