מנעול דיגיטלי על רקע מעגלים אלקטרוניים להמחשת עצות אבטחת סייבר מבינה מלאכותית

אחת מכל 10 תשובות AI על אבטחה עלולה להטעות: כך בודקים לפני שפועלים

אנשים כבר פונים ל־ChatGPT, Gemini ולמודלים אחרים כדי לברר אם הודעה היא הונאה, כיצד לשחזר חשבון שנפרץ או האם כדאי לשנות הגדרת פרטיות. מחקר חדש של Google ו־University College London מזהיר שגם כאשר התשובה נשמעת בטוחה ומפורטת, היא לא תמיד נכונה.

החוקרים פיתחו את HelpBench, מבחן הכולל 450 שאלות אמיתיות בנושאי פרטיות, בטיחות ואבטחת מידע. הם בחנו 18 מודלים משבע משפחות שונות. הציון הממוצע היה 82%, אך אחת מכל עשר תשובות קיבלה פחות מ־65% — רמה שהחוקרים קישרו לעצה לא מדויקת ולעיתים אף מזיקה.

מה נבדק במחקר

השאלות חולקו לתשעה תחומים, בהם שחזור גישה לחשבונות, זיהוי הונאות, מכשירים שנפרצו, כלי אבטחה, VPN וקובצי Cookie, הטרדה מקוונת ודליפת מידע. לכל שאלה נבנה מדד מפורט בידי מומחים, שבחן לא רק אם התשובה מכילה עובדות נכונות, אלא גם אם היא נמנעת מהמלצות מסוכנות או מסורבלות.

בין הדוגמאות לכישלונות: המלצה להיפטר ממכשיר שלם בתגובה לחשד לנוזקה, או לפתוח חשבון בבנק אחר בגלל שאלת פרטיות. אלה צעדים יקרים וקיצוניים לעומת אפשרויות פשוטות ומדויקות יותר.

גם אותה שאלה יכולה לקבל תשובה אחרת

החוקרים שאלו כל מודל את אותה שאלה חמש פעמים. במקרים מסוימים סטיית התקן הגיעה ל־12%, כלומר ניסוח זהה יכול להניב עצות שונות באופן משמעותי. לכן תשובה שנשמעת סמכותית אינה תחליף לאימות.

ארבע בדיקות לפני שמיישמים עצת AI

  1. בקשו מקור ראשוני: העדיפו מסמך רשמי של ספק השירות, מערך הסייבר, CISA או יצרן התוכנה.
  2. הפרידו בין אבחון לפעולה: אל תריצו פקודה, תבטלו חשבון או תמסרו קוד אימות רק מפני שהמודל הציע זאת.
  3. בדקו את המחיר של טעות: בפעולה בלתי הפיכה — מחיקה, תשלום, איפוס או שינוי הרשאות — דרוש אימות נוסף מאיש מקצוע.
  4. אל תחשפו סודות: אין להדביק בצ׳אט סיסמאות, מפתחות API, קודי MFA, לוגים עם מידע אישי או מסמכים חסויים.

מה המשמעות למשתמשים

המחקר אינו קובע שאסור לבקש עזרה מ־AI. להפך: ברוב השאלות המודלים סיפקו עצה איכותית, והתחומים שבהם אנשים מחפשים עזרה — הונאות, שחזור חשבון ופרטיות — הם בדיוק המקומות שבהם הסבר מהיר יכול לסייע. המסקנה היא להשתמש במודל כנקודת פתיחה, לא כסמכות יחידה.

מקורות

קרדיט תמונה: MarkJFernandes, “Electronic-security artwork (lock & circuit-board patterns)”, מתוך Wikimedia Commons, הקדשה לנחלת הכלל CC0 1.0. מותר להעתיק, לשנות ולהשתמש גם מסחרית וברשתות חברתיות ללא בקשת רשות.

דילוג לתוכן