יותר מ-30 מיליון צפיות: אנטישמיות בהיקף תעשייתי - בחסות ה-AI

במהלך תקופה של 13 חודשים, שהתאפיינה בעיקר בעלייה המהירה בפופולריות של מודלים ליצירת תמונות, וידאו ואודיו באמצעות בינה מלאכותית, חלה התפשטות אדירה בהיקף התוכן האנטישמי שנוצר באמצעות AI ברשתות החברתיות. כך לפי דוח חדש של ארגון CyberWell שפורסם היום (שני).

המחקר בוחן את הקשר בין שימוש לרעה ב-Gen AI ליצירת תוכן אנטישמי בפלטפורמות חברתיות והמדיניות הדיגיטלית של הרשתות. בנוסף, הדוח ממפה את הדפוסים החוזרים ונשנים שבהם תוכן אנטישמי מגיע לקהל. מאגר הנתונים של Cyberwell, הכולל יותר מ-300 פריטי תוכן אנטישמי, הגיע ליותר מ-30 מיליון צפיות וליותר מ-2.8 מיליון אינטראקציות ברשתות.

המחקר, שניתח מאות פוסטים אנטישמיים שנוצרו באמצעות AI בין ינואר 2025 לפברואר 2026, מצא כי כלים נגישים ונפוצים כמו Sora של OpenAI, Veo של גוגל, גרוק של רשת X ו-Suno, שימשו לייצור המוני של תוכן אנטישמי בוטה. תכני AI אלה שילבו ויזואליה, אודיו ונרטיבים מומצאים עם קטעים מאירועי אמת, מה שהפך את התוכן לאמין יותר, מושך יותר וקשה יותר לזיהוי.

חלק גדול מהתוכן, שעסק בהכחשת השואה והצגתה באופן לעגני, כוון לילדים. בעת הצפייה בתכנים אלה, הוצעו בפיד גם תכנים שנועדו לפגוע בקטינים או לנצל אותם. בעקבות שימוש נרחב ב- Sora להפצת תכנים אנטישמיים בעייתיים במהלך תקופת כתיבת הדוח, OpenAI סגרה את הכלי.

עוד נמצא כי 79% מהתוכן האנטישמי שנבדק הופיע באינסטגרם, טיקטוק וביוטיוב, שבהן סרטונים קצרים היו דומיננטיים, ופעמים רבות הופנו לקהלים צעירים באמצעות טרנדים ויראליים. CyberWell מצאה כי תכני AI מבוססי מוזיקה וגיימינג, לרבות תכנים הקשורים למשחקים כמו Roblox ו- ,Minecraft שימשו שוב ושוב להטמעת מסרים אנטישמיים.

למרות שתוכן אנטישמי מבוסס AI היה קיים עוד לפני 7 באוקטובר, לאחר מתקפת חמאס נרשמה עליה חדה בחשיפה ובהפצה שלו. עם זאת, נקודת מפנה משמעותית התרחשה במהלך מבצע עם כלביא, מאז זוהתה עלייה חדה ומתמשכת בהפצת תוכן אנטישמי בין פלטפורמות שונות.

"מערכות בינה מלאכותית שינו באופן יסודי את קנה המידה והמהירות שבהם ניתן לייצר ולהפיץ אנטישמיות ברשת", ציינה מנכ"לית ומייסדת CyberWell, טל-אור כהן מונטמאיור. "כיום ניתן לייצר תכני שנאה בהיקפים תעשייתיים ולהגיע למיליונים, כאשר האכיפה מגיעה לרוב רק לאחר שהתוכן כבר הופץ בהיקף רחב".

עוד עלה בדוח הארגון, מספר ממצאים מדאיגים במיוחד: 33% מהתוכן כלל האדרה או קריאה לאלימות נגד יהודים, ותכנים אלה יצרו 41% מכלל האינטראקציות. ממצא זה מעיד כי התוכן הקיצוני ביותר מתפשט במהירות רבה ומגיע לקהלים רחבים. בנוסף, נמצא כי תוכן אנטישמי אלים מופיע בשיעור כפול בתכנים שנוצרו באמצעות AI לעומת תוכן שנוצר על ידי משתמשים.

הדוח מצביע גם על פערים באכיפה בין הפלטפורמות: טיקטוק הייתה אחראית לחלק הגדול ביותר מהתוכן, 36%, אך גם הציגה את האכיפה הגבוהה ביותר, עם 88%. ,אינסטגרם רשמה את שיעור האינטרקציות הגבוה ביותר (65%) באופן שאינו פרופורציונלי ללל הפוסטים, שעמד על 25%.

טיקטוק ומטא, חברת האם של ,אינסטגרם רשמו שיעורי הסרה גבוהים משמעותית מהממוצע שלהן, ככל הנראה בשל קיומן של מסגרות מדיניות מפורשות יותר בפלטפורמות שלהן לטיפול בתוכן שנוצר באמצעות .AI לעומת זאת יוטיוב ו-X, רשמו שיעורי הסרה נמוכים משמעותית, 28% ו-20% בהתאמה, ואינן מחזיקות בהוראות מדיניות מפורשות דומות.

אף ששיעורים אלה משקפים אכיפה בסופו של דבר לאחר דיווח התוכן, האכיפה של תכנים שנוצרו באמצעות AI מתעכבת לעיתים קרובות, והתוכן נותר ברשת זמן רב מספיק כדי לצבור מאות אלפי ואף מיליוני צפיות לפני הסרתו.

"על הפלטפורמות להתקדם מעבר לשקיפות בלבד ולהשקיע במערכות שמסוגלות לזהות נרטיבים מזיקים בקנה מידה רחב, לרבות כאלה שמטמעים בתוך אודיו, ויזואליה ושפה מקודדת שמצליחים לחמוק ממנגנוני זיהוי מסורתיים". הוסיפה כהן מונטמאיור.

"Gen AI הוא כלי עוצמתי, אך גם כזה שמנוצל לרעה בקנה מידה רחב. באמצעות חיזוק מנגנוני זיהוי אוטומטיים, השקעה בבקרה אנושית איכותית ושיתופי פעולה עם גורמים מקצועיים חיצוניים, ניתן להתמודד עם צורות השנאה החדשות והמתפתחות ברשת".