מאז פרצה המלחמה באוקראינה, וביתר שאת מאז כניסת הבינה המלאכותית בעוצמה לחיינו, תעשיית החדשות המזויפות זינקה לאין שיעור. ברשת מסתובבים מיליוני סרטונים, שמיליארדי משתמשים צופים בהם ובטוחים כי הם אמיתיים – אך בפועל הם נוצרו על ידי AI, ולעיתים אין בינם לבין המציאות קשר כלל וכלל.
כך למשל, אם נסתכל בזירתנו, הפלסטינים ברשת דאגו בחורפים האחרונים בניסיון להשפיע על הקהילה הבינלאומית, להוציא סרטונים לפיהם תושבי רצועה קופאים מקור בסופת שלגים, כאשר כמובן שלג לא ירד ברצועת עזה לפחות 70 שנה, וזו רק דוגמה קטנה.
Tel Aviv right now.
— Syrian Girl (@Partisangirl) March 3, 2026
The Zionist project is a failure. pic.twitter.com/N9Zek9haCp
במלחמה הנוכחית עם איראן ובעם במבצע "עם כלביא", חשבונות המזוהים עם הציר האיראני דאגו להפיץ סרטונים על "הישגיה" של איראן, לפיהם ת"א וחיפה בוערות, וישנם עשרות הרוגים - רובם ככולם היו מזויפים עם שימוש ב-AI.
ראש המוצר של X ניקיטה בייר (Nikita Bier) הכריז אתמול על מהלך חדש במטרה להילחם בתעשיית הענק, במיוחד בתכנים הקשורים למלחמה. לפי המדיניות החדשה, משתמשים שיפרסמו סרטונים מבוססי בינה מלאכותית הקשורים לסכסוך מזויין, ולא יציינו את השימוש ב-AI, לא יוכלו לקבל הכנסות במסגרת התוכנית ליוצרים (מי שמקבל כסף מפרסומות על התוכן שלו) במשך 90 יום. הפרות נוספות מהסוג הזה יובילו להשעיה מהתוכנית לצמיתות.
🚨🚨🚨Israel Is Getting Fucked Up🚨🚨🚨 pic.twitter.com/iD9fw3V5kC
— Bricktop_NAFO (@Bricktop_NAFO) March 3, 2026
"היום אנו מעדכנים את מדיניות חלוקת ההכנסות של יוצרים כדי לשמור על האותנטיות של התוכן בציר הזמן ולמנוע מניפולציה של התוכנית", כתב בייר והסביר כי "בתקופות מלחמה, חיוני שתהיה לאנשים גישה למידע אותנטי בשטח. עם טכנולוגיות הבינה המלאכותית של ימינו, יצירת תוכן שיכול להטעות אנשים היא פשוטה".
"החל מעכשיו, משתמשים שיפרסמו סרטונים שנוצרו על ידי בינה מלאכותית של סכסוך מזוין - מבלי להוסיף גילוי שהם נוצרו באמצעות בינה מלאכותית - יושעו משיתוף הכנסות ליוצרים למשך 90 יום. הפרות נוספות יובילו להשעיה קבועה מהתוכנית", הוסיף.
??? pic.twitter.com/pNDK4TBRVa
— Nikita Bier (@nikitabier) March 4, 2026
כיצד ניתן יהיה לעלות על הסרטון המזויף? ניקיטה הסביר שכל פוסט המכיל סרטון הקשור למלחמה ותחתיו יווצרו "הערות קהילה" שיצביעו על היותו מזוייף ומבוסס בינה מלאכותית ייבדק.
"הדבר זה יסומן לנו על ידי כל פוסט עם הערת קהילה או אם התוכן מכיל מטא-נתונים (או אותות אחרים) מכלי בינה מלאכותית יצירתיים. נמשיך לחדד את המדיניות והמוצר שלנו כדי להבטיח שניתן יהיה לסמוך על X ברגעים הקריטיים האלה", כתב. חשוב להדגיש כי בשלב זה, הצעד ננקט רק נגד סרטונים, ולא נגד תמונות או טקסט.
ראש המוצר של X הראה דוגמה לאזהרה החדשה אמש. "עיתונאי" בשם אחמד חמדאן שטוען כי הוא מצפון רצועת עזה העלה פוסט ובו סרטון המראה כביכול שריפת ענק בחיפה. על גבי הסרטון כתב: "טילים איראניים ופיצוצים בתל אביב. לילה עוצמתי, יהי רצון שה' יצליח". הקולות בסרטון אמרו כי "טיל היפרסוני פגע במפרץ חיפה".
בפועל, הערות הקהילה הבהירו מעבר לכל ספק כי מדובר בסרטון מבוסס בינה מלאכותית. בין היתר נאמר כי מהירות הטיל גבוהה מידי, הקולות בסרטון נשמעו עוד לפני הפיצוץ והעשן מה"פיצוץ" נראה מהר מידי. בייר הגיב לסרטון ושיתף את בדיקת הסרטון שנערכה - שהראתה כי *98.9%* ממנו נוצר על ידי יוצר הסרטונים Sora 2 מבית Open AI. חשבון פרופגנדה איראני מוכר ששיתף את הסרטון, "Iran military updates" - הושעה, ככל הנראה לאחר ששיתף שורת סרטונים מהסוג הזה בתקופה האחרונה.
BREAKING: The stupid "Iran Military Updates" accounts are starting to get suspended one by one after posting fake AI videos of Israel getting bombarded.
— Vivid.🇮🇱 (@VividProwess) March 4, 2026
X is finally cleaning the platform of fake grifters and bots. pic.twitter.com/8mbGyBJgVF
במענה לשאלת משתמש סיפר על מקרה נוסף - שגם הוביל למחיקת משתמשים. "אתמול (שני) מצאנו בחור בפקיסטן שניהל 31 חשבונות שפרסם סרטוני מלחמה מבוססי בינה מלאכותית. כולם נפרצו ושמות המשתמש שונו ב-27 בפברואר ל"Iran War Monitor" או גרסה נגזרת כלשהי. אנחנו הרבה יותר מהירים בזיהוי - וגם מבטלים את התמריץ לעשות זאת", אמר.
בצעד נוסף בו נקטה הרשת החברתית עם פרוץ המלחמה, בייר הודיע ביום שבת, יום פרוץ המלחמה, כי החברה מגבירה את מאמציה להילחם בבוטים. הוא פרסם כי בשבעת הימים הקודמים, X הצליחה לחסום 99.1% מבוטים שמקורם באיראן, כדי למנוע מתקפות סייבר ופרופגנדה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו