תמונה: נוצרה באמצעות AI עבור מערכת ITPortal
ארה״ב מתכננת להקים גוף חדש בשם AI Force ולמנות אחראי לאומי לבינה מלאכותית. ההודעה הגיעה ב-19 בספטמבר, על רקע לחץ גובר מצד מומחים, חברות טכנולוגיה ופוליטיקאים להגדיר כללי משחק ברורים יותר למערכות AI מתקדמות.
נכון לעכשיו אין כמעט פרטים על סמכויות הגוף, המבנה שלו או לוחות הזמנים. המסר הפוליטי, לעומת זאת, ברור: הממשל רוצה להציג פיקוח, אך אינו מתכוון להאט את המרוץ הטכנולוגי מול סין.
רגולציה, אבל לא בלמים
המתח הזה מלווה את תעשיית ה-AI כבר תקופה. מצד אחד, סוכנים חכמים מקבלים יותר גישה למערכות, נתונים וכלי ביצוע. מצד שני, כל מגבלה נתפסת מיד כסיכון לתחרותיות, להשקעות וליתרון האמריקאי.
הקמת גוף פיקוח יכולה להיות צעד חשוב רק אם יהיו לו סמכויות מקצועיות, גישה למידע ויכולת לבדוק מערכות בפועל. גוף שמסתפק בהצהרות או בדיווח עצמי של החברות לא יספיק כשהטכנולוגיה מתקדמת בקצב מהיר כל כך.
מה ארגונים צריכים לקחת מזה כבר עכשיו?
עסקים אינם צריכים להמתין לחוק חדש. כדאי להגדיר כבר היום מי רשאי לחבר כלי AI למידע ארגוני, אילו פעולות מותר לסוכן לבצע, מה מחייב אישור אנושי ואיך מתעדים את הפעילות לצורך חקירה.
חשוב גם להפריד בין כלי שמסכם מידע לבין סוכן שמסוגל לשלוח הודעות, להריץ קוד, לשנות הרשאות או לגשת למערכות חיצוניות. רמת הסיכון שונה לחלוטין.
הדיון מתחבר גם לכתבה שלנו על הגישה של אמזון לבדיקות בטיחות AI. השאלה כבר אינה אם יהיה פיקוח, אלא מי יבצע אותו, באיזו שקיפות ומה יקרה כשהמערכת חורגת מהמסלול.
