OpenAI ו־Anthropic אמרו לפרלמנט האוסטרלי כי יתמכו בחוק שיחייב חברות לדווח על דליפות מידע ותקריות שביצעו סוכני בינה מלאכותית. ההצהרה נמסרה ב־6 באוקטובר 2026 במסגרת חקירה פרלמנטרית על השפעות ה־AI. חשוב להדגיש: זו תמיכה בעקרון רגולטורי — לא חוק שכבר אושר.
מה הוביל לדיון
לפי דיווח רויטרס, הדיון הגיע לאחר ביקורת על כך ש־OpenAI המתינה כשלושה חודשים לפני שיידעה את ממשלת אוסטרליה על אירוע שבו סוכן AI הצליח לחדור לפורטל ממשלתי בתחום הבריאות. כיום אין באוסטרליה מסגרת מקיפה שמגדירה מתי וכיצד יש לדווח על אירוע שיזם או ביצע סוכן אוטונומי.
ג'ייסון קוון, מנהל האסטרטגיה הראשי של OpenAI, אמר למחוקקים שמסגרת חוקית יכולה ליצור סטנדרט אחיד. דייוויד מאסטרס, מנהל המדיניות של Anthropic באוסטרליה ובניו זילנד, אמר שגם החברה שלו פתוחה לחובת דיווח. העמדה המשותפת מעניינת במיוחד משום ששתי החברות מפתחות כלים בעלי יכולת לבצע רצף פעולות, להשתמש בשירותים חיצוניים ולפעול בשם המשתמש.
למה סוכני AI משנים את תמונת הסיכון
צ'אטבוט שמציע תשובה שגויה הוא בעיה מסוג אחד. סוכן שמקבל הרשאה לגלוש, להתחבר למערכת, להפעיל קוד או לשלוח מידע עלול ליצור אירוע אבטחה ממשי. ככל שהמערכת מקבלת יותר עצמאות, קשה יותר להסתפק בתיעוד פנימי או בהחלטה וולונטרית אם לפרסם את האירוע.
- היקף הרשאות: סוכן עשוי לפעול עם הרשאות המשתמש או הארגון.
- קצב פעולה: טעות יכולה להתפשט במהירות בין שירותים ומערכות.
- קושי בייחוס: יש להבחין בין כשל מודל, הוראה שגויה, ניצול זדוני או הגדרה לקויה.
- שרשרת ספקים: האירוע עשוי לערב את מפתח המודל, ספק הענן, בעל המערכת והמשתמש.
לכן חובת דיווח אינה רק שאלה של שקיפות לציבור. היא יכולה ליצור בסיס משותף ללמידה מאירועים, לקבוע מי אחראי למסירת המידע ולחייב תיעוד של פעולות הסוכן. מנגד, החוק יצטרך להגדיר היטב מהי "תקרית" כדי שלא להציף רגולטורים בדיווחים חסרי משמעות או לחשוף מידע רגיש שלא לצורך.
מה עדיין לא ברור
החקירה האוסטרלית עוסקת גם בזכויות יוצרים, מרכזי נתונים ובהשלכות כלכליות. הדיונים צפויים להימשך עד 9 באוקטובר, והדוח הסופי צפוי ב־30 בנובמבר 2026. רק לאחר מכן יהיה אפשר לדעת אם ההמלצות יהפכו להצעת חוק, אילו חברות ייכללו בה ומה יהיה סף הדיווח.
גם בארצות הברית אין כיום מנגנון פדרלי מקיף וייעודי לדיווח על כל תקרית של סוכן AI. חובות קיימות מכוח דיני ניירות ערך או חוקי פרטיות מדינתיים עשויות לחול במקרים מסוימים, אך הן אינן תחליף לכללים אחידים לסוכנים אוטונומיים.
המשמעות לארגונים
גם לפני חקיקה, ארגון שמפעיל סוכני AI צריך להתייחס אליהם כרכיב בעל הרשאות ולא רק ככלי תוכן. זה כולל רישום פעולות, הפרדת הרשאות, אישור אנושי לפעולות רגישות ותהליך מסודר לעצירת הסוכן במקרה חריג. כדאי גם לקבוע מראש מי בוחן אירוע ומתי הוא מועבר לצוות אבטחה, משפט ופרטיות.
אירועים קודמים המחישו שהגבול בין ניסוי טכנולוגי לבין סיכון תפעולי הולך ומיטשטש. ב־ITPortal סקרנו לאחרונה גם ניסיון של סוכני AI מול אתר ממשלתי בקנדה ואת היערכות דרום קוריאה לתרחישי תקיפה אוטונומיים על בנקים. הדיון באוסטרליה מוסיף את השאלה מי חייב לדווח כאשר תרחיש כזה מתרחש בפועל.
השורה התחתונה: OpenAI ו־Anthropic אינן מודיעות על כלל חדש אלא מאותתות שהן מוכנות למסגרת מחייבת. אם אוסטרליה תאמץ חובת דיווח ברורה, היא עשויה להפוך למודל למדינות אחרות שמנסות להדביק את קצב ההתפתחות של סוכני AI.
תמונת המחשה: נוצרה באמצעות AI עבור מערכת ITPortal.
