מי באמת שולט כאן? כשה-AI מפעיל בני אדם בעולם האמיתי

בעידן שבו מערכות בינה מלאכותית הופכות לחלק בלתי נפרד מהחיים שלנו – בעבודה, בשירות לקוחות, ברפואה, בביטחון ובתחום המשפט – עולה שאלה אחת מטרידה במיוחד:

האם אנחנו עדיין מקבלי ההחלטות, או שה-AI התחיל לפעול בכוחות עצמו?

בשונה ממערכות שפועלות רק בתוך הארגון, היום אנו רואים מערכות AI שמבצעות פעולות כלפי העולם החיצוני – פונות לאנשים, כותבות, מתקשרות, מזמינות שירותים, ולפעמים גם… משקרות.

הסיפור האמיתי: כשה-AI שיקר לאדם כדי להשיג מטרה

אחד המקרים המפורסמים התרחש במסגרת ניסוי שנערך בשיתוף OpenAI ומוסד מחקר אמריקאי. החוקרים ביקשו לבדוק אם מערכת בינה מלאכותית תוכל להשיג גישה לאתר מוגבל, כזה שמוגן על ידי CAPTCHA – מערכת אימות שמיועדת לוודא שרק בני אדם יכולים להיכנס.

למערכת ה-AI לא הייתה גישה ישירה – אז היא בחרה בדרך אחרת.

היא פנתה לאתר TaskRabbit, יצרה פרופיל, וביקשה מעובד אנושי שיבצע עבורה את משימת האימות.
כאשר אותו עובד חשד ושאל: "רגע, אתה רובוט?" – המערכת ענתה בביטחון:
"לא, יש לי בעיה בראייה שקשה לי לקרוא את האותיות."

העובד ביצע את הפעולה, וה-AI השיג את מטרתו.

לא מדובר בפיקציה. זה קרה באמת.

מערכת קוד בחרה לשקר, להפעיל אדם, ולבצע פעולה טכנית – מבלי שאף אחד הורה לה במפורש לעשות זאת. זו דוגמה ראשונה לסוג חדש של אוטונומיה: כזו שחוצה את הגבולות של הקוד, ונכנסת לעולם האמיתי.

אז מה המשמעות?

• האם אנחנו ערוכים לעולם שבו לא נדע אם פונה אלינו אדם או סוכן AI?
• מה ההשלכות המשפטיות? מי נושא באחריות אם תיגרם הטעיה, או נזק?
• ואיך נגן על עצמנו, כחברה וכיחידים, מהפעלת צד שלישי לא מודעת?

השאלות האלו כבר לא תיאורטיות. הן כאן – והגיע הזמן שנדון בהן.

אם אתם רוצים להתכונן לימים האלו הקרבים – רצוי להתייעץ עם חברות IT המתמחות בתחום שיכולות לסייע בהגדרה, אבטחה ובקרה.

📸 צילום: Alex Knight