כשהפחד מגיע מבפנים
בעולם שבו מודלים של בינה מלאכותית משתחררים בקצב מסחרר, הסיפור סביב מודל Mythos של Anthropic שונה לחלוטין.
לא מדובר בעוד מודל שיצא לשוק – אלא דווקא במודל שלא שוחרר.
והסיבה? לפי פרסומים, מדובר במערכת שהייתה חזקה מדי, לא צפויה מדי, ואולי גם מסוכנת מדי.
מה שמעניין באמת הוא לא רק המודל עצמו – אלא התגובות של גופים פיננסיים מהגדולים בעולם, שבחנו אותו מקרוב.
מה זה בכלל Mythos?
Mythos הוא מודל AI מתקדם שפותח על ידי Anthropic, בדומה למודלים כמו GPT-4 או Claude – אך עם דגש עמוק יותר על:
- ניתוח מערכות מורכבות
- הסקת מסקנות אסטרטגיות
- יכולת חיזוי התנהגותית
לפי הדיווחים, מדובר במודל שמסוגל:
- להבין תרחישים גיאופוליטיים מורכבים
- לנתח שווקים פיננסיים ברמה גבוהה מאוד
- לזהות דפוסים "נסתרים" שאדם לא היה רואה
במילים פשוטות:
לא עוד צ’אטבוט – אלא כלי חשיבה ברמה של צוות אנליסטים.
למה Anthropic לא שחררה אותו?
וזו הנקודה הקריטית.
Anthropic החליטה לא לשחרר את המודל לציבור.
הסיבות שעלו:
- חשש משימוש לרעה
- יכולת השפעה על שווקים פיננסיים
- יצירת מניפולציות מידע בקנה מידה עצום
- חוסר יכולת לחזות את כל ההתנהגויות של המודל
כלומר – לא מדובר בבעיה טכנית.
מדובר בהחלטה ערכית.
וזה נדיר.
מה הבנקים ראו – שאנחנו לא?
כמה מהבנקים הגדולים בעולם קיבלו גישה למודל לצורכי בדיקה.
התגובות שלהם היו… מעניינות מאוד.
1. יתרון תחרותי קיצוני
המודל יכול לייצר יתרון עצום למי שמחזיק בו:
- חיזוי מגמות שוק
- זיהוי סיכונים לפני כולם
- קבלת החלטות מהירה ומדויקת
בנק שמפעיל מערכת כזו – משחק בליגה אחרת.
2. פוטנציאל לערעור יציבות שוק
אבל כאן מגיע הצד השני.
אם כמה גופים משתמשים במודל כזה במקביל:
- כולם מזהים את אותם דפוסים
- כולם פועלים באותו זמן
- נוצרת תנודתיות חריגה
במילים אחרות:
AI לא רק מנתח שוק – הוא מתחיל לעצב אותו.
3. בעיית אמון
הבנקים גם העלו שאלה קריטית:
אם AI מקבל החלטות – מי אחראי?
- האם זה הבנק?
- האם זה המודל?
- האם זה מי שאימן אותו?
הקו בין המלצה לפעולה הופך למטושטש.
איך בכלל מאמנים מודל כזה?
כדי להבין את העוצמה של Mythos, צריך להבין איך מודלים כאלה נוצרים.
שלב 1: כמויות מידע אדירות
המודל ניזון מ:
- נתונים פיננסיים
- חדשות גלובליות
- מחקרים אקדמיים
- נתוני שוק בזמן אמת
שלב 2: חיזוקים ולמידה מתקדמת
בניגוד למודלים רגילים, כאן נכנסים אלמנטים של:
- Reinforcement Learning
- סימולציות של תרחישים
- בדיקות של תגובות המודל למצבים קיצוניים
שלב 3: כיוונון (Alignment)
זה החלק הכי קשה.
לגרום למודל:
- לא להזיק
- לא להטות מידע
- לא לפעול בצורה בלתי צפויה
וכאן בדיוק, לפי ההערכות, Mythos "שבר את הכלים".
למה זה חשוב לעולם ה-IT?
אם אתo עובדים בתחום IT, אבטחת מידע או ענן – הסיפור הזה לא תיאורטי בכלל.
1. שינוי בתפיסת סיכון
עד היום דיברנו על:
- מתקפות סייבר
- דליפות מידע
- פישינג
עכשיו נכנס גורם חדש:
מודלים חכמים שמסוגלים להשפיע על מציאות.
2. צורך בבקרה חדשה
ארגונים יצטרכו:
- לפקח על שימוש ב-AI
- לנהל הרשאות למודלים
- לעקוב אחרי החלטות אוטומטיות
כמו שיש SOC – ייתכן שנראה גם:
AI Governance Centers
3. רגולציה בדרך
כמו שקרה עם GDPR – גם כאן זה רק עניין של זמן.
מדינות יבינו מהר מאוד:
- יש כאן כוח אדיר
- צריך לשלוט בו
ומה קורה אם זה דולף?
וזה החלק הכי מעניין.
אם מודל כמו Mythos היה דולף:
תרחיש 1: שימוש פיננסי אגרסיבי
קרנות וגופים פרטיים משתמשים בו כדי:
- לנצל שווקים
- להקדים תנועות
- להרוויח בצורה לא הוגנת
תרחיש 2: מניפולציות מידע
שחקנים זדוניים יכולים:
- להשפיע על דעת קהל
- ליצור נרטיבים
- להפיץ מידע מתוחכם מאוד
תרחיש 3: מירוץ חימוש AI
ברגע שמודל כזה יוצא:
- חברות אחרות מנסות להדביק
- מדינות נכנסות לתמונה
- מתחיל מירוץ
וזה כבר לא טכנולוגיה – זה גיאופוליטיקה.
אז מה זה אומר בפועל?
הסיפור של Mythos הוא לא רק סיפור על מודל.
זה סימן דרך.
הוא אומר לנו:
- AI הגיע לרמה שבה הוא יכול להשפיע על מערכות מורכבות
- לא כל מה שאפשר – צריך לשחרר
- השליטה בטכנולוגיה הופכת קריטית
העולם מתקרב לנקודה שבה:
- AI לא רק עוזר לקבל החלטות
- אלא מקבל אותן בפועל
והשאלה האמיתית היא לא:
מה המודל יודע לעשות
אלא: מי מחזיק בו – ולמה
הסיפור של Mythos מציב מראה ברורה:
הטכנולוגיה מתקדמת מהר יותר מהיכולת שלנו להבין אותה.
והפעם, לשם שינוי – מישהו לחץ על הבלמים.
וטוב שכך.
קרדיט תמונה Markus Winkler
