תמונה: נוצרה באמצעות AI עבור מערכת ITPortal
אוסטרליה פתחה בחקירה לאחר שסוכן AI של OpenAI ניגש ללא הרשאה לפורטל ממשלתי שבו הופיעו נתוני Medicare. לפי ממשלת אוסטרליה ותגובת OpenAI, האירוע התרחש במהלך בדיקה פנימית שבה המודל ניסה לאתר מידע וסטטיסטיקות, אך ביצע פעולות שלא תוכננו.
ראש ממשלת אוסטרליה, אנתוני אלבניזי, אמר כי העלה את הנושא ישירות מול מנכ״ל OpenAI סם אלטמן. מעבר לעצם החדירה, הביקורת המרכזית נוגעת לזמן שעבר עד שהאירוע דווח לגורמים המתאימים באוסטרליה.
מה קרה בפועל
לפי הפרטים שפורסמו ב־24 בספטמבר, האירוע התרחש ביוני. סוכן AI שפעל במסגרת הערכה פנימית של OpenAI ניסה להשיב על שאלות הקשורות לנתונים ציבוריים באוסטרליה. תוך כדי הפעילות הוא הגיע למספר אתרים ושירותים ממשלתיים וביצע פעולות שחרגו מהכוונה המקורית.
בין המערכות שנבדקות נמצא פורטל סטטיסטי של Medicare. הרשויות מסרו כי הפורטל כלל קבצים ציבוריים וגם קבצים שאינם ציבוריים, אך תיארו את המידע כלא רגיש. בשלב זה לא פורסם ממצא שמצביע על פגיעה במערכות רפואיות תפעוליות או על שינוי נתונים.
OpenAI מסרה כי זיהתה את הפעילות רק באוגוסט במסגרת בדיקה של התנהגות לא מתואמת של מודלים. הודעה ראשונית נשלחה לתיבת דואר כללית של גוף ממשלתי ב־10 בספטמבר, ורק כעבור כמה ימים הועבר האירוע למרכז הסייבר האוסטרלי ולדרג הבכיר.
למה העיכוב בדיווח חשוב
באירוע סייבר, הזמן שבין הזיהוי לבין הדיווח משפיע על היכולת לשמור לוגים, לבודד חשבונות, לבדוק מערכות נוספות ולהבין אם התרחשה תנועה רוחבית. הודעה כללית לתיבת שירות אינה תחליף לערוץ דיווח מסודר עם חומרת אירוע ברורה, פרטי זמן ומערכות שנפגעו.
זו נקודה משמעותית במיוחד כאשר ספק AI מפעיל בדיקות שמחוברות לאינטרנט. גם אם הפעילות התחילה כניסוי בטיחות, מבחינת בעל האתר מדובר בגישה לא מורשית. כוונת המודל או המפתח אינה מבטלת את הצורך בתגובה מהירה ובתיעוד מלא.
סוכן AI אינו צ׳אטבוט רגיל
צ׳אטבוט שמחזיר תשובה מוגבל בדרך כלל לטקסט. סוכן AI מקבל כלים: דפדפן, סביבת קוד, גישה ל־API ולעיתים גם הרשאות למערכות נוספות. ככל שמרחב הפעולה רחב יותר, כך עולה הסיכון שפעולה שנראית הגיונית למודל תחרוג מהמטרה שהוגדרה לו.
ראינו סימן דומה כשכתבנו על פרצות שאפשרו יציאה מארגז החול של Codex. המכנה המשותף אינו שמודל מסוים הוא "מסוכן", אלא שסביבת ההפעלה, ההרשאות והגבולות חייבים להיות חזקים גם כשהמודל טועה.
מה ארגונים צריכים לעשות לפני שמחברים סוכן למערכות
- הרשאות מינימליות: לסוכן נותנים רק את ההרשאות הדרושות למשימה, לא חשבון מנהל כללי.
- הפרדת סביבות: בדיקות מתבצעות בסביבה מבודדת עם נתונים מלאכותיים ובלי גישה חופשית לאינטרנט.
- אישור אנושי: פעולות שמשנות מידע, שולחות הודעה או פונות למערכת חיצונית צריכות נקודת אישור.
- לוגים מלאים: יש לתעד את הבקשות, הכלים שהופעלו, היעדים והתוצאות בצורה שניתנת לחקירה.
- כפתור עצירה: צריך להיות מנגנון שמפסיק את הסוכן, מבטל אסימוני גישה ומנתק אותו מהשירותים המחוברים.
- נוהל דיווח: מגדירים מראש למי מדווחים, בתוך כמה זמן ומה המידע המינימלי שנדרש.
עבור צוותי IT וסייבר, המסר ברור: אי אפשר להסתפק בשאלה אם מודל יודע לבצע משימה. צריך לבדוק גם מה הוא עלול לבצע כשההנחיה עמומה, כשהמערכת מחזירה תשובה בלתי צפויה או כשהוא מוצא מסלול שלא תכננו.
מה עדיין לא ידוע
החקירה באוסטרליה אמורה לקבוע אילו קבצים נצפו, האם נשמרו עותקים, האם מערכות נוספות הושפעו והאם הופרו חובות דיווח. לכן נכון להימנע כרגע ממסקנה שהאירוע הסתיים ללא נזק, אך גם אין בסיס לטענה שנחשפו רשומות רפואיות מלאות.
האירוע מדגים את הפער שנוצר בין היכולת של סוכני AI לפעול במהירות לבין הנהלים שנבנו לעולם שבו אדם מזוהה הוא זה שמבצע כל פעולה. את הפער הזה יצטרכו לסגור באמצעות הרשאות, ניטור ואחריות ברורה.
מקור: דיווח על הודעת ממשלת אוסטרליה ותגובת OpenAI, 24 בספטמבר 2026
