פעם האקרים היו צריכים לפרוץ לרשת הארגונית כדי להשיג מידע סודי. היום ארגונים עלולים לאפשר למידע הזה לצאת בדלת הראשית — באמצעות כלי בינה מלאכותית, חיבורי API וסוכני AI שמקבלים הרשאות למחשבים ולמערכות רגישות. והחלק המדאיג? בחלק מהמקרים אף אחד בהנהלה לא באמת יודע מה מחובר למה.
אני מלווה ארגונים בתחום המחשוב, הענן ואבטחת המידע מאז 2007. דווקא עכשיו, בעיצומה של מהפכת הבינה המלאכותית, אני מזהה תופעה שמטרידה אותי מאוד.
לא מדובר בהכרח באיום סייבר מתוחכם, בקבוצת תקיפה או בנוזקה חדשה. לפעמים מדובר בעובדים, מנהלים ומפתחים שפשוט רוצים לעבוד מהר יותר.
הבעיה היא שהמהירות שבה אנחנו מאמצים בינה מלאכותית גדולה בהרבה מהמהירות שבה אנחנו לומדים לאבטח את השימוש בה.
ChatGPT, Claude, Grok, Gemini: מי יודע מה העובדים מעלים לשם?
תחשבו על כמה תרחישים יומיומיים, שיכולים לקרות כמעט בכל ארגון:
- מנהל כספים מעלה דוח פנימי ל-ChatGPT ומבקש ניתוח.
- עורך דין מזין חוזה הכולל פרטים חסויים כדי לקבל תקציר.
- עובד משאבי אנוש מעביר קובץ Excel עם פרטי עובדים לשירות AI חיצוני.
- מפתח מחבר את Claude או עוזר קוד אחר לסביבת העבודה ומעניק גישה לקוד מקור, לקובצי תצורה ולעיתים גם לסודות טכניים.
- עובד מתקין סוכן AI במחשב, מאשר לו גישה לתיקיות ומתחיל לבצע אוטומציות.
כל אחד מהם בסך הכול מבקש להתייעל. אבל האם מישהו בדק לאן המידע עובר, מה תנאי השימוש, אילו הרשאות ניתנו והאם מדובר בחשבון פרטי או בסביבה ארגונית מנוהלת?
והכי חשוב: מי בכלל יודע שזה קורה?
הסכנה האמיתית מתחילה כשה-AI מקבל הרשאות
העלאת מסמך היא רק ההתחלה. הדור החדש של כלי AI כבר אינו מסתפק במענה לשאלות. הוא יכול להתחבר לשירותי ענן, לסביבת פיתוח, לתיקיות מקומיות, ליומנים, למערכות ניהול ולשירותים חיצוניים.
באמצעות חיבורי API, הרשאות OAuth, תוספים וסוכני AI, כלי כזה עשוי לקבל יכולות קריאת מידע — ולעיתים גם יכולות שינוי או העברה שלו. הרשאות רחבות מדי מגדילות את הנזק האפשרי משגיאה, מתצורה לקויה או מהוראה זדונית המוטמעת במסמך או בדף שהסוכן קורא.
במילים אחרות: אנחנו כבר לא רק מספרים ל-AI מה קורה בארגון. אנחנו מתחילים לתת לו את המפתחות.
ארגון OWASP מונה בין הסיכונים המרכזיים ביישומי בינה מלאכותית חשיפה של מידע רגיש (Sensitive Information Disclosure), הזרקת הוראות (Prompt Injection) ומתן סמכויות יתר לסוכני AI (Excessive Agency).
האם כל מידע שנשלח ל-AI הופך לציבורי? לא — וחשוב לדייק
יש הבדלים גדולים בין חשבונות פרטיים, מסלולי Business ו-Enterprise, שירותי API וספקים שונים. לדוגמה, OpenAI מציינת שתוכן של לקוחות ChatGPT Business, ChatGPT Enterprise ו-API אינו משמש כברירת מחדל לאימון המודלים שלה.
העובדה הזאת חשובה, אבל היא אינה פוטרת ארגונים מבדיקת תנאי שמירה, בקרות גישה, הרשאות, אינטגרציות צד שלישי ומדיניות שימוש. אי-שימוש במידע לצורכי אימון אינו מבטל כשלעצמו כל סיכון לזליגת נתונים.
לכן השאלה האמיתית אינה האם AI מסוכן, אלא האם הארגון יודע באיזה מוצר, באילו תנאים ובאילו הרשאות משתמש כל עובד.
השקענו הון ב-Firewall, אבל שכחנו את העובד והפרומפט
זאת אולי האירוניה הגדולה ביותר של עולם אבטחת המידע הנוכחי. ארגונים משקיעים בצדק ב-Firewall, ב-EDR, באימות רב-שלבי, במערכות SIEM, בגיבויים ובמבדקי חדירה.
אלא שההשקעות האלו לא בהכרח מעניקות נראות מלאה לשימוש בכלי AI חיצוניים. עובד בעל גישה לגיטימית עלול להעביר מידע רגיש לכלי שלא אושר — לעיתים בלי להבין שעשה משהו בעייתי.
בלי מתקפת פישינג. בלי ניצול חולשה. בלי גניבת סיסמה. ובלי שאף האקר יצטרך להתאמץ.
לתופעה הזאת יש שם: Shadow AI — שימוש בכלי בינה מלאכותית מחוץ למסגרת האישורים והבקרה הארגונית. בדומה ל-Shadow IT, הבעיה איננה תמיד כוונה רעה; לעיתים היא דווקא רצון כן לקדם עבודה.
אז מה הפתרון — לחסום את כל כלי ה-AI?
ממש לא. אני מאמין גדול בבינה מלאכותית, משתמש בה ומפתח באמצעותה. איסור גורף עלול רק לדחוף את השימוש הרחק מעיני אנשי ה-IT ואבטחת המידע.
במקום להילחם בטכנולוגיה, צריך לנהל אותה. ארגון אחראי צריך לדעת:
- אילו כלי AI נמצאים בשימוש בפועל, ולמי הם שייכים.
- האם עובדים משתמשים בחשבונות פרטיים או במרחב ארגוני מנוהל.
- לאילו מסמכים, תיקיות ומערכות ניתנה גישה.
- אילו חיבורי API והרשאות OAuth אושרו, והאם הוגדר עקרון ההרשאה המינימלית.
- אילו סוגי מידע אסור להזין או לשתף מחוץ לארגון.
- אילו ניטור, התראות, הדרכות ומנגנוני מניעה קיימים, ומה עושים במקרה של חשיפה.
זאת אינה רק משימה של מחלקת ה-IT. זאת אחריות ניהולית.
כאן נכנסת MCS: אי אפשר להגן על מה שלא יודעים שקיים
כחלק מפיתוח MCS – Managed Cyber Security מבית M-Challenge, בחרנו להתייחס גם לשימוש בבינה מלאכותית כחלק ממערך ניהול סיכוני הסייבר בארגון.
רכיב AI Monitor של MCS מיועד לזהות שימוש בכלי AI, לרבות שימוש שאינו מאושר במסגרת הארגונית (Shadow AI), ולסייע בזיהוי שימושים מסוכנים והתרעה עליהם. המטרה היא לייצר נראות ומודעות לסיכון — לא לעצור חדשנות ולא להפוך את העובדים לחשודים.
הפלטפורמה משלבת ניטור שימוש ב-AI עם יכולות בתחומי Microsoft 365, משתמשים והרשאות, אבטחת דואר, חשיפה חיצונית ואירועי אבטחה, לצד ניתוח והתייחסות מקצועית להתראות בהתאם למסלול השירות.
חשוב להדגיש: ניטור AI כשלעצמו אינו תחליף ל-DLP, לניהול הרשאות, לאבטחת תחנות קצה או למדיניות ארגונית. הוא שכבה נוספת שאמורה לצמצם שטחי עיוורון ולהעמיד בפני ההנהלה מידע שימושי לקבלת החלטות.
כי לפני שאפשר לצמצם סיכון, צריך קודם לדעת שהוא קיים.
למידע נוסף: MCS – Managed Cyber Security.
השאלה שכל מנכ"ל צריך לשאול מחר בבוקר
אני מאמין במהפכת ה-AI ורואה בה הזדמנות עצומה. אבל ככל שהכלים נעשים חכמים ומחוברים יותר, אנחנו חייבים להיות אחראים יותר באופן שבו אנחנו מכניסים אותם לארגון.
אנחנו כבר לא יכולים להסתפק בשאלה מי מנסה לפרוץ למערכות שלנו. צריך לשאול גם למי אנחנו נותנים גישה למערכות שלנו מרצוננו החופשי.
ואם מחר בבוקר המנכ"ל ישאל את מנהל המחשוב שלו: ״כמה כלי AI מחוברים כרגע למידע הארגוני שלנו, ומה בדיוק הם יכולים לקרוא או לבצע?״ — האם תהיה לו תשובה?
או שזאת תהיה הפעם הראשונה שמישהו בארגון בכלל יבדוק?
אריאל מרום
מייסד ומנכ"ל M-Challenge, מפתח פלטפורמת MCS – Managed Cyber Security
גילוי נאות: הכותב עומד מאחורי פלטפורמת MCS המוזכרת בטור. תיאור הסיכונים וההמלצות אינו מהווה תחליף לבדיקת אבטחת מידע ייעודית.
תמונת שער: Luke Jones / Unsplash, שימוש בהתאם לרישיון Unsplash. תמונת המחשה.
