המחשה של סביבת בדיקה למערכת סוכן בינה מלאכותית

גוגל בנתה ״אינטרנט מקביל״ כדי לבדוק סוכני AI בלי לסכן את הרשת האמיתית

צוות האבטחה של Chrome חשף היום, 19 בנובמבר 2026, סביבת ניסוי חדשה בשם Mirror Dimension — מעין “אינטרנט מקביל” וסגור שנועד לבחון סוכני AI שמבצעים פעולות בדפדפן. המטרה: לבדוק אלפי תרחישים מציאותיים, כולל קניות, בנקאות ורשתות חברתיות, בלי לתת למערכת לא־בשלה גישה חופשית לרשת האמיתית.

סוכני דפדפן שונים מצ'אטבוט רגיל. הם לא רק מסכמים מידע, אלא יכולים לנווט בין עמודים, ללחוץ על כפתורים, להקליד בשדות ולבצע משימות. כל יכולת כזו שימושית — אבל גם מגדילה את הסיכון שטעות, הוראה זדונית או אתר עוין יובילו לפעולה לא רצויה.

למה אי אפשר פשוט לבדוק על האינטרנט הרגיל?

לדברי Google, בדיקה ישירה ברשת הפתוחה יוצרת שתי בעיות. ראשית, האינטרנט משתנה כל הזמן, ולכן קשה לשחזר בדיוק את אותו מבחן. שנית, סוכן שמבצע אלפי פעולות עלול ליצור תופעות לוואי אמיתיות: למלא טופס, לבצע רכישה, לפרסם תוכן או להשפיע על חשבון משתמש.

Mirror Dimension נועד לפתור זאת באמצעות סביבה הרמטית. הוא כולל אלפי אתרים מדומים שנבנו בהשראת מסעות משתמש יומיומיים, לצד שכבת ניתוב מקומית שמדמה גלישה אמיתית. בסיום כל מבחן אפשר לאפס את הסביבה למצב נקי וזהה.

מה בודקים שם?

  • ביצוע משימות: האם הסוכן מצליח לנווט, למצוא מידע ולפעול לפי בקשת המשתמש.
  • עמידות בפני הזרקת הנחיות: האם טקסט מוסתר או הוראה זדונית באתר גורמים לסוכן לסטות מהמטרה.
  • עצירה ואישור: האם המערכת יודעת מתי עליה לבקש אישור לפני פעולה רגישה.
  • שחזור תוצאות: האם אותו תרחיש מוביל לאותה התנהגות גם בהרצות חוזרות.

לפי צוות Chrome, הסביבה כוללת אתרים סינתטיים עם זרימות נתונים מציאותיות — למשל הוספת מוצר לעגלה, הזנת קוד קופון או עבודה עם ממשק דמוי רשת חברתית. הסוכנים פוגשים גם ניסיונות תקיפה מבוקרים, כדי למדוד אם מנגנוני ההגנה עומדים בהם.

למה זה חשוב למשתמשים?

ההכרזה אינה תכונה חדשה שכל משתמש יכול להפעיל היום, אלא תשתית בדיקה מאחורי הקלעים. ועדיין, יש לה משמעות מעשית: ככל שסוכני AI מקבלים יותר הרשאות בדפדפן, נדרש תהליך בדיקה הדוק יותר מזה שמספיק למערכת שרק מחזירה טקסט.

גם סביבת ניסוי גדולה אינה מבטיחה שסוכן לעולם לא יטעה. האינטרנט האמיתי כולל אתרים, שפות ודפוסי תקיפה שלא תמיד ניתן לשחזר. לכן Mirror Dimension הוא שכבת הגנה והערכה — לא תחליף לאישור משתמש, הרשאות מצומצמות, הפרדת חשבונות וניטור.

מה כדאי לבדוק לפני שנותנים לסוכן AI לפעול?

  1. האם הוא מבקש אישור לפני רכישה, שליחה, מחיקה או שינוי הרשאות.
  2. האם אפשר להגביל אותו לאתר, לשונית או משימה מוגדרת.
  3. האם נשמר יומן ברור של הפעולות שבוצעו.
  4. האם ניתן לבטל פעולה או לנתק את הגישה מיד.

הלקח לציבור פשוט: סוכן בדפדפן צריך להיבחן כמו תוכנה שמקבלת הרשאות, לא רק כמו כלי שמנסח תשובה. ככל שהוא מסוגל לעשות יותר, כך חשוב יותר שתהיה הפרדה בין סביבת ניסוי לבין חשבונות, כסף ונתונים אמיתיים.

מקורות

קרדיט תמונה: Wikideas1, ‏CC0 1.0; מקור וקובץ: Wikimedia Commons. התמונה היא המחשה כללית של סביבת agent harness ואינה צילום של Mirror Dimension.

דילוג לתוכן