תמונה: נוצרה באמצעות AI עבור מערכת ITPortal
טום סיגל, לשעבר ראש תחום האמון והבטיחות בגוגל, מזהיר כי כלי AI עלולים לגרום לילדים נזק רחב יותר מזה שיצרו הרשתות החברתיות. זו אזהרת מומחה ולא מסקנה מדעית סופית, אבל היא נוגעת להבדל חשוב: צ'אטבוט לא רק מציג תוכן. הוא מנהל שיחה אישית, זוכר הקשר ולעיתים נשמע סמכותי מאוד.
בריאיון שפורסם בReuters ב-22 בספטמבר 2026, סיגל טען שחברות הטכנולוגיה עדיין אינן מפעילות הגנות עקביות מספיק עבור משתמשים צעירים. הוא קרא לבדיקות עצמאיות, אימות גיל אפקטיבי וסטנדרטים ברורים יותר.
למה AI שונה מרשת חברתית?
ברשת חברתית המשתמש גולל בין פוסטים, סרטונים ותגובות. בצ'אט עם AI נוצרת תחושה של שיחה פרטית. המערכת יכולה לענות מיד, להתאים את הטון לשאלה ולהמשיך את אותו נושא במשך זמן רב. עבור ילד או נער, קל יותר לייחס לה הבנה, כוונה או סמכות שאין לה באמת.
הסיכון אינו רק תוכן לא מתאים. הוא כולל גם חשיפת מידע אישי, הישענות רגשית על הצ'אט, תשובות שגויות שנשמעות בטוחות והעברת משימות לימודיות שלמות לכלי במקום תרגול עצמאי.
מכון חדש מבקש לבצע "מבחני ריסוק" לכלי AI
סיגל מונה למנהל הראשון של Youth AI Safety Institute מבית Common Sense Media. לפי האתר הרשמי של המכון, המטרה היא לחקור את השפעת ה-AI על ילדים ומשפחות, לקבוע תקני בטיחות ולבדוק מוצרים בתרחישים מציאותיים ורב שלביים.
המכון אינו מסתפק בקריאת מדיניות השימוש של החברות. הוא מפעיל מומחים שבודקים כיצד הכלים מגיבים לשיחות מורכבות, למצבי לחץ ולניסיונות לעקוף מנגנוני הגנה. התוצאות אמורות להתפרסם לציבור ולאפשר להורים ולמוסדות חינוך להשוות בין מוצרים.
מה הורים צריכים לבדוק עכשיו?
- איזה כלי הילד משתמש בו: לא כל צ'אט, מנוע חיפוש או אפליקציית דמות מפעילים אותן הגנות.
- איזה מידע נמסר: שם מלא, כתובת, בית ספר, תמונות, סודות משפחתיים ופרטי בריאות אינם חומר לשיחה עם שירות שאינכם מכירים.
- למה משמש הכלי: עזרה בניסוח שונה מהעברת שיעורי הבית, קבלת החלטה רפואית או שימוש בצ'אט כתחליף לאדם אמיתי.
- האם התשובה נבדקת: כדאי לבקש מהילד להראות מקור ולוודא טענה חשובה במקום לקבל אותה בגלל ניסוח משכנע.
- האם קיימת תלות: שימוש ממושך בשעות הלילה, הסתרת שיחות או העדפת הצ'אט על פני חברים ומבוגרים הם סימנים שמצדיקים שיחה רגועה.
לא צריך לאסור כל שימוש
כלי AI יכולים לעזור בלימוד, תרגום, תרגול רעיונות ויצירה. איסור גורף עלול פשוט להעביר את השימוש למקום נסתר. הגישה המעשית יותר היא לקבוע גבולות: אילו כלים מותרים, איזה מידע אסור למסור, מתי בודקים תשובה עם מבוגר ובאילו נושאים פונים לאדם ולא למכונה.
חשוב גם להסביר שהצ'אט אינו חבר, מטפל או יועץ מקצועי. הוא מייצר תשובה על בסיס דפוסים בנתונים, ויכול לטעות גם כשהוא נשמע בטוח. אם עולה נושא של פגיעה עצמית, אלימות, ניצול או מצב רפואי, מערבים מיד מבוגר מתאים ואיש מקצוע.
הוויכוח רק מתחיל
חברות AI מציגות מנגנוני גיל, סינון ובקרת הורים, אבל המבחן אינו קיומו של כפתור בהגדרות. השאלה היא איך המוצר מגיב בשיחה ארוכה, כאשר הניסוח עקיף וכאשר ילד מנסה להסתיר את גילו.
כבר כתבנו ב-ITPortal על האחריות האנושית בפיתוח ובהפצת AI. המקרה של ילדים ממחיש מדוע בדיקה עצמאית צריכה להתקדם יחד עם היכולת הטכנולוגית, ולא להגיע רק אחרי שנוצר נזק.
האזהרה של סיגל אינה אומרת שכל שימוש ב-AI מסוכן. היא כן מזכירה שהמוצר מדבר ישירות עם הילד, ולעיתים יודע עליו יותר ממה שההורה מבין. לכן האחריות מתחלקת בין החברות, המפתחים, בתי הספר והמשפחה.
