מנהלים של חברות טכנולוגיה ובינה מלאכותית חתמו ב־29 בספטמבר 2026 על הסכם וולונטרי חדש לבטיחות AI. נשיא ארצות הברית דונלד טראמפ תיאר את המסמך כ״מחייב מבחינה מוסרית״, אך מבחינה משפטית אין מדובר בחוק או בתקנה מחייבת.
לפי דיווח Reuters, המסמך בן עמוד אחד מציע ארבע שכבות של בקרה בתוך חברות המפתחות מערכות AI מתקדמות. בין היתר מדובר בבדיקות פנימיות, פיקוח ארגוני, ביקורת חיצונית ובחינה עצמאית ברמת הדירקטוריון.
מה כולל ההסכם
העיקרון הוא שחברות לא יסתפקו בבדיקת המודל על ידי צוות הפיתוח עצמו. הן אמורות ליצור הפרדה בין מי שבונה את המערכת לבין מי שבוחן את הסיכונים, ולהוסיף גורמים חיצוניים או עצמאיים שיעריכו את הבטיחות.
המסמך מגיע בתקופה שבה סוכני AI מקבלים גישה לכלים, קבצים ויישומים עסקיים. בניגוד לצ׳אט שמחזיר תשובה, סוכן יכול לבצע רצף פעולות ולהמשיך לעבוד לאורך זמן. ההשקה האחרונה של סוכני dots של OpenAI ממחישה מדוע נדרשות הרשאות מוגבלות, תיעוד פעולות ואפשרות לעצור תהליך.
מה ההסכם אינו עושה
אין במסמך מנגנון אכיפה ממשלתי ברור, קנסות או לוח זמנים מחייב. עדיין לא פורסם כיצד ייבחרו הגופים החיצוניים, אילו תוצאות ייחשפו לציבור ומה יקרה אם חברה לא תעמוד בהתחייבויות.
לכן נכון לראות במהלך הצהרת כוונות ולא תחליף לרגולציה. ביקורת חיצונית יכולה להיות משמעותית רק אם היא באמת עצמאית, פועלת לפי קריטריונים אחידים ומפרסמת מידע שניתן להשוות בין חברות.
למה החברות מוכנות לפיקוח עצמי
חברות AI נמצאות תחת לחץ כפול. מצד אחד הן רוצות לשחרר מוצרים במהירות ולהתחרות בשוק גלובלי. מצד שני, תקלות של סוכנים, שימוש לרעה במודלים וחשש של הציבור עלולים לפגוע באמון ולהוביל לרגולציה מחמירה יותר.
סקר Reuters/Ipsos שפורסם לאחרונה מצא כי 73% מהאמריקאים סבורים שחברות AI אינן עושות מספיק כדי לצמצם סיכונים חמורים. הסכם וולונטרי עשוי להיות ניסיון להראות שהחברות מסוגלות לבנות מנגנוני בקרה לפני שהמחוקק יכפה אותם.
מה עסקים יכולים לקחת מזה כבר עכשיו
ארגון שמשתמש ב־AI אינו צריך להמתין להסכמה בין ממשלות וחברות. אפשר ליישם בתוך העסק עקרונות דומים:
- להגדיר אילו נתונים מותר להזין לכלי AI ואילו אסור.
- להפריד בין מי שבונה אוטומציה לבין מי שמאשר אותה לפרודקשן.
- לשמור יומן פעולות של סוכנים ולבדוק חריגות.
- להעניק הרשאות מינימליות ולדרוש אישור אנושי לפעולות רגישות.
- לבצע בדיקות תקופתיות על ידי גורם שאינו תלוי בצוות שפיתח את המערכת.
גם אם ההסכם האמריקאי יישאר וולונטרי, עצם המעבר מארבעה עקרונות כלליים למנגנוני ביקורת מדידים יהיה המבחן האמיתי. בלי שקיפות, הגדרה ברורה של סיכון ודיווח על תקלות, המילה ״מחייב״ תישאר בעיקר הצהרה.
מקורות: Reuters, 29 בספטמבר 2026; פרטי ההסכם שפורסמו לאחר הפגישה.
צילום: Markus Winkler / Pexels. מקור התמונה, בהתאם לרישיון Pexels.
