נציגי OpenAI ו־Meta הזהירו ועדה של מערכת המשפט הפדרלית בארצות הברית כי זיופי וידאו ואודיו שנוצרו באמצעות AI נעשים קשים יותר לזיהוי. הדיון אינו עוסק רק ביכולת ליצור Deepfake משכנע, אלא גם בשאלה מי יידרש להוכיח שראיה דיגיטלית אמיתית — ובאילו כלים.
צילום: Joshua Woroniecki / Unsplash, ברישיון Unsplash.
האזהרה שהוצגה בפני הוועדה
לפי Reuters, הדברים הוצגו ב־15 באוקטובר 2026 בפני הוועדה המייעצת לכללי הראיות של ה־Judicial Conference בבוסטון. נציגים מהתעשייה, מהאקדמיה ומהממשל תיארו מצב שבו תוכן שנוצר במודלים מתקדמים עשוי להיות קשה להבחנה מתוכן אותנטי, בעוד עלות וזמן היצירה יורדים.
שירה אנדרסון, יועצת מדיניות ב־OpenAI, הזהירה שאין כיום דרך מדעית אוניברסלית שתזהה כל תמונה סינתטית. דווין נורדר מ־Meta הסביר כי בני אדם מתקשים להבחין בין מדיה אותנטית למדיה שנוצרה במודלים מתקדמים. הדברים אינם אומרים שכל ראיה דיגיטלית חשודה, אלא שהסתמכות על התרשמות חזותית בלבד הופכת חלשה יותר.
למה סימון מים אינו פתרון מלא
חברות טכנולוגיה מקדמות סימני מקור, מטא־דאטה וסימון מים לתוכן שנוצר ב־AI. אלא שהמערכות אינן אחידות: כלי אחד לא בהכרח מזהה סימון של כלי אחר, ועריכה, צילום מחדש או המרה עלולים להסיר חלק מהמידע. לכן, סימון מים יכול להיות שכבת אימות שימושית — אך לא הוכחה יחידה.
מבחינה מעשית, אימות חזק יותר נשען על שרשרת של ראיות: הקובץ המקורי, המטא־דאטה שלו, המכשיר או המערכת שיצרו אותו, תיעוד העברה, חתימות דיגיטליות ויכולת להסביר מי החזיק בחומר בכל שלב. זהו עיקרון ותיק של ניהול ראיות, שהופך חשוב יותר כשהפקת זיוף איכותי נעשית נגישה.
הבעיה עדיין אינה נפוצה — אבל אינה תיאורטית
הוועדה בוחנת את הנושא מאז 2023. סקר של מרכז המחקר של מערכת המשפט הפדרלית, שפורסם במרץ, מצא כי רק 15 מתוך 931 שופטים שהשיבו לסקר נתקלו במקרה שבו נטען שראיה היא Deepfake. הנתון מסביר מדוע חלק מחברי הוועדה מזהירים מפני יצירת כלל ייעודי מוקדם מדי.
במאי 2026 דחתה הוועדה הצבעה על כללים מוצעים לראיות שנוצרו ב־AI ולזיופים עמוקים, בין היתר לאחר הסתייגויות של משפטנים ושופטים. בדיון האחרון הוקמה ועדת משנה שתמשיך לבחון את הנושא. במקביל, שופטים ציינו כי הדין הקיים כבר אוסר הגשת ראיות מזויפות ומאפשר לבחון את אמינותן.
מה ארגונים יכולים ללמוד כבר עכשיו
- לשמור מקור: אין להסתפק בקובץ שעבר באפליקציית מסרים. שמרו את הקובץ המקורי ואת נתוני ההקשר.
- לתעד שרשרת שמירה: מי יצר, הוריד, העביר או ערך את החומר ובאיזה מועד.
- לא להסתמך על גלאי יחיד: תוצאת כלי זיהוי היא אינדיקציה, לא פסק דין.
- להגן על חשבונות: תיעוד חתום שמקורו בחשבון שנפרץ עלול להיות אמין למראה אך מטעה.
האתגר דומה גם בעולם הסייבר: ככל שסוכני AI מסוגלים לבצע פעולות מורכבות יותר, כך נדרשים מנגנוני מקור, הרשאה ובקרה חזקים יותר. ראו גם את הסקירה שלנו על סוכני AI, תקיפה ותקני אבטחה.
