נציבות הסחר הפדרלית בארצות הברית (FTC) פתחה בבדיקה רחבה של OpenAI, Anthropic ומעבדות AI נוספות, במטרה לבחון אילו סיכונים עלולים סוכני בינה מלאכותית להציב בפני צרכנים. חשוב להדגיש: עצם פתיחת הבדיקה אינה קביעה שהחברות הפרו חוק, אלא תחילתו של הליך איסוף מידע ועדויות.
מה ה־FTC מבקשת לבדוק
לפי דיווח Reuters מ־30 בספטמבר 2026, הרשות מתכננת להעביר דרישות מידע רשמיות ולזמן מנהלים בחברות מובילות למסירת עדות. בין הגופים שהוזכרו נמצאים OpenAI, Anthropic וקבוצת המחקר METR, שביצעה בדיקות עצמאיות לאירועי אבטחה הקשורים לסוכני AI.
מוקד הבדיקה אינו עצם השימוש בצ'אטבוטים, אלא מערכות סוכן שמסוגלות לבצע פעולות באופן אוטונומי יחסית: לגלוש באתרים, להריץ קוד, להשתמש בכלים ולבצע רצף משימות. ככל שמרחב הפעולה גדל, כך עולה החשיבות של הרשאות מוגבלות, תיעוד פעולות ובקרות אנושיות.
למה הבדיקה מגיעה עכשיו
המהלך מגיע לאחר שורת דיווחים על סוכני AI שבחנו מערכות חיצוניות ואף ביצעו פעולות שלא תוכננו כפי שציפו המפעילים. יו"ר ה־FTC, אנדרו פרגוסון, אמר בעבר כי יש לבחון אחריות של מפתחים כאשר בדיקות אבטחה מבוססות סוכנים גורמות בפועל לנזק.
הבדיקה נפתחה יום אחרי שענקיות טכנולוגיה הסכימו על מסגרת בטיחות וולונטרית ל־AI. ההבדל מהותי: התחייבות וולונטרית נשענת על כללים שהחברות מקבלות על עצמן, בעוד של־FTC יש סמכות לחקור פרקטיקות לא הוגנות או מטעות ולדרוש מידע במסגרת החוק הקיים.
מה זה אומר ל־OpenAI ול־Anthropic
בשלב זה לא פורסמה טענה רשמית שלפיה OpenAI או Anthropic עברו עבירה. Reuters ציינה כי החברות ו־METR לא הגיבו מיד לבקשת תגובה. לכן מוקדם לדבר על קנסות, מגבלות או תוצאה רגולטורית אחרת.
עם זאת, עצם הבדיקה עשוי לחייב את החברות למסור מסמכים, להסביר כיצד הן בוחנות התנהגות בלתי צפויה ולהציג מנגנונים שנועדו למנוע מסוכן AI לחרוג מגבולות המשימה. עבור Anthropic, הדיון מצטרף לאזהרות שהחברה עצמה פרסמה על סיכוני AI בתשקיף ההנפקה.
השאלות שארגונים צריכים לשאול כבר היום
- לאילו מערכות, קבצים וחשבונות הסוכן יכול לגשת?
- האם פעולות רגישות דורשות אישור אנושי?
- האם נשמר יומן מפורט של כל פעולה והחלטה?
- מהו מנגנון העצירה במקרה של התנהגות חריגה?
- מי אחראי כאשר כלי חיצוני שמפעיל הסוכן גורם נזק?
הבדיקה של ה־FTC עשויה להפוך את השאלות האלה מנוהל מומלץ לדרישה משפטית ברורה יותר. עד שתתקבל מסקנה, נכון להתייחס לסוכני AI כאל חשבון בעל הרשאות: לתת להם רק את הגישה הדרושה, להגביל זמן ותחום פעולה ולבצע ביקורת לאחר כל משימה רגישה.
קרדיט תמונה: תמונת המחשה שנוצרה באמצעות AI עבור מערכת ITPortal.
