OpenAI קוראת לארצות הברית להוביל מאמץ בינלאומי לגיבוש תקנים טכניים משותפים למודלי בינה מלאכותית מתקדמים. לפי החברה, העולם זקוק לא רק לעקרונות כלליים, אלא גם למדדים מוסכמים, לפרוטוקולים לדיווח על תקריות ולשפה משותפת שתאפשר למדינות ולחברות להשוות סיכונים.
ההצעה מגיעה בזמן שבו מודלים חזקים יותר מקבלים גישה לכלים, לקוד ולמערכות חיצוניות. לכן השאלה כבר אינה רק כמה טוב המודל עונה, אלא כיצד מודדים את היכולת שלו לפעול באופן עצמאי, כיצד מזהים התנהגות לא צפויה ומי מקבל התרעה כשמתרחשת תקרית.
מה OpenAI מציעה
לפי דיווח Reuters מ־21 בספטמבר 2026, החברה מבקשת מנגנון שמשלב תקנים לאומיים ובינלאומיים למערכות AI בחזית הטכנולוגיה. בין המרכיבים שעלו נמצאים מדידות משותפות, דיווח אחיד על אירועים ומסגרת שתאפשר פעולה מתואמת כאשר מערכת מתקדמת מתנהגת באופן מסוכן או בלתי צפוי.
החברה התייחסה גם למערכות שמסוגלות לשפר חלק מהיכולות שלהן באופן רקורסיבי. זהו תרחיש מחקרי שמקבל תשומת לב רבה, אבל אין פירושו שמודל מסחרי קיים כבר משפר את עצמו ללא מגבלות. ההבחנה הזאת חשובה כדי להימנע מכותרות דרמטיות שאינן נתמכות בעובדות.
תקן אינו רגולציה אחת לכל העולם
תקנים טכניים יכולים להגדיר כיצד מודדים, מתעדים ומדווחים. רגולציה, לעומת זאת, קובעת חובות משפטיות ולעיתים גם קנסות. הצעה לתקן משותף אינה מבטלת את ההבדלים בין ארצות הברית, האיחוד האירופי ומדינות אחרות, אך היא יכולה ליצור שכבת בסיס שמקלה על שיתוף מידע ועל הערכת מודלים.
אפשר להשוות זאת לעולמות אבטחת המידע: ארגונים שונים פועלים תחת חוקים שונים, ובכל זאת משתמשים במסגרות ובמדדים מוכרים כדי לתקשר על חולשות, תקריות ובקרות. בתחום ה־AI, שפה דומה עדיין נמצאת בתהליך בנייה.
למה זה רלוונטי גם לארגונים
ארגון שמטמיע AI לא צריך להמתין להסכמה עולמית. כבר עכשיו כדאי לנהל רשימה של מודלים וסוכנים שנמצאים בשימוש, לתעד לאילו נתונים וכלים הם מחוברים, ולהגדיר מי אחראי לעצור פעילות חריגה. בדיקות צריכות להתמקד בתרחישים אמיתיים: חשיפת מידע, ביצוע פעולה ללא אישור, שימוש שגוי בהרשאות או העברת מידע לשירות חיצוני.
גם רכש תוכנה עשוי להשתנות. ספקים יידרשו להסביר באילו מבחנים המודל עבר, כיצד הם מטפלים בתקריות ומה קורה כאשר מתגלה סיכון חדש. ככל שהמדדים יהיו אחידים יותר, יהיה קל יותר להשוות בין הצהרות שיווקיות לבין יכולת מוכחת.
הוויכוח על קצב הפיתוח
OpenAI תיארה את הצורך לוודא שמחקר ההתאמה וההגנות נשארים לפני היכולות, ולא בהכרח לקבוע מהירות פיתוח אחידה. זו עמדה של החברה ולא קביעה מדעית מוסכמת. יש גם מחלוקת ציבורית על השאלה מי צריך לקבוע את התקנים, כיצד למנוע יתרון בלתי הוגן לשחקנים הגדולים ועד כמה ניתן לאמת מבחנים שמפתחות החברות עצמן.
המבחן האמיתי יהיה בפרטים: מי ינסח את המדדים, האם תוצאות ייבדקו בידי גורם עצמאי, אילו תקריות יחויבו בדיווח ומה יהיה פתוח לציבור. בלי תשובות כאלה, תקן עלול להישאר מסמך הצהרתי. עם מדדים שקופים ואכיפה מתאימה, הוא עשוי להפוך לכלי מעשי.
אפשר לעקוב אצלנו גם אחרי חדשות טכנולוגיה וכתבות על אבטחת מידע.
קרדיט תמונה: תמונה: נוצרה באמצעות AI עבור מערכת ITPortal
