בשני סרטונים שהופצו לאחרונה באופן נרחב ברשתות החברתיות ניתן לראות את דמויותיהם של הזמרים שלומי שבת ויהורם גאון כשהם מתארים בפני המצלמה מצבים רפואיים קשים. הסרטונים יצרו חרושת של שמועות לגבי מצבם של שבת וגאון וחשש אמיתי בקרב משפחותיהם ומעריציהם.
"מעטים יודעים את זה, אבל הייתי על סף נכות או אפילו מוות. התחיל לי צלצול ורחש בראש, לחץ הדם שלי עלה והתחלתי מיד בטיפול. "נמצאתי בטיפול נמרץ עם שבץ מוחי על סף מוות... רק לקחו ממני כסף", אומר גאון בסרטון. "לפני ארבע שנים היה לי שבץ מוחי, הכל קרה פתאום... שום דבר לא עזר ואז קרה השבץ", אומר שבת בסרטון אחר. "חצי שנה של שיקום לא הצלחתי לדבר כמו שצריך, ללכת, לחיות, הייתי בטוח שזהו, אני אשאר נכה כל החיים, אבל למזלי יש עוד בעולם הזה רופאים ישרים באמת".
האמת היא שהסרטונים לא הציגו את שבת ואת גאון האמיתיים, אלא זיופים דיגיטליים שלהם, שנוצרו באמצעות טכנולוגיית "דיפ-פייק", שכיום זמינה לכל משתמש מתחיל, ככל הנראה כדי לקדם מכירה של תרופות כאלו או אחרות.
גאון האמיתי הגיב לסרטון בהומור אך גם בדאגה: "כהיפוכונדר מצוי נבהלתי יותר מכולם ממה ש'קרה' לי. זה לא רק הבלוף, זו תחושה של פריצה לפרטיות, של איבוד שליטה על השם והדמות שלי. אני מנסה להתמודד עם המציאות והנה מישהו משתמש בטכנולוגיה הזו כדי להפיץ שקרים, לפגוע בי ובאנשים שסביבי".
שבת סיפר כי אחרי פרסום הסרטון הוא קיבל אלפי הודעות מודאגות מחברים, קרובי משפחה ומעריצים. הזמר הוסיף כי הוא נפגע עמוקות מהשימוש המזויף בשמו ובדמותו והחליט להגיש תלונה במשטרה: "זה לא רק על השקרים שמסכנים את השם שלי, אלא על הפגיעה באמון ובמעריצים. זו גניבה של זהות… אני מקווה שהרשויות יפעלו במהירות כדי להגן על כולנו מהטכנולוגיות האלו".
שבת וגאון לא לבד, כמובן. תופעת הסרטונים המזויפים של ידוענים ואנשים מוכרים פחות גורמת לשינוי עמוק בתפיסת האמון שלנו בתקשורת, בדמויות ציבוריות וביכולת להבחין בין אמת לשקר בעולם דיגיטלי שרק ממשיך להשתכלל בקצב כה מהיר עד שרבים מתקשים לעמוד בו.
סרטון לפי פקודה
אחד ההישגים הטכנולוגיים המרשימים ביותר של 2025 בתחום הבינה המלאכותית, עד כה, הייתה ההשקה של מודל יצירת הווידיאו של גוגל, Veo 3. מדובר בצ'אטבוט שמייצר סרטונים באיכות חסרת תקדים בהתאם לבקשה של המשתמש, הנכתבת בשפה טבעית (promt). כפי ש-ChatGPT הוא מודל שמייצר טקסט לפי פקודה (טקסט-לטקסט), Veo 3 מייצר סרטוני וידיאו לפי פקודה. זה אמנם לא המודל הראשון שעושה זאת, אך הוא הצליח להדהים את כולם באיכותו, ובייחוד ביכולתו לחקות באופן ריאליסטי דקויות פיזיקליות ואנטומיות: צמרות עצים הנעות ברוח סערה, צחוק מתגלגל על פניה של ילדה, וגם את תנועת השפתיים הייחודית אך ורק לדוברי יפנית. לפי פקודה, כבמטה קסם.
בימים הראשונים להשקת המודל, כשגוגל סיפקה גישה רק לשורה נבחרת של יוצרי תוכן, הרשתות החברתיות החלו להתמלא בשלל סרטונים מקוריים שנוצרו באמצעות Veo 3, והם היו מרהיבים ברמה הוויזואלית ויצירתיים ברמה הרעיונית, כולל אחד משעשע במיוחד, שבו משה רבנו מתעד את יציאת מצרים ב"סטורי" שזכה לעשרות מיליוני צפיות ועורר לחיים את הסיפור העתיק.
היה ברור, מרגע ההשקה, שהטכנולוגיה הזו מסמנת עידן חדש של יצירתיות, שבו כל אחד הוא במאי שיכול להוציא לפועל את חזונו האמנותי בלי תקציב גדול, ידע טכני, תפאורה או שחקנים.
תכנים אנטישמיים משולחי רסן
אך עד מהרה נחשף גם הצד האפל של הקסם הטכנולוגי הזה, וככל שהגישה לכלי התרחבה Veo 3 וכלים אחרים הפכו, בידי חלק מהמשתמשים, למכונה ליצירת תכנים אנטישמיים, גזעניים ואלימים בוטים במיוחד. לצד סרטונים הומוריסטיים, פילוסופיים ואמנותיים, החלו לצוץ ברשת סרטונים המבזים את זכר השואה ומפיצים סטריאוטיפים משולחי רסן כנגד שחורים, יהודים ומיעוטים אחרים.
ארגון Media Matters for America חשף בדוח שפורסם בתחילת יולי עשרות סרטונים בוטים, שנוצרו בעזרת Veo 3, ושזכו לעשרות מיליוני צפיות ברשתות החברתיות - בעיקר בטיק טוק.
בסרטון אחד, מזעזע במיוחד, נראה אסיר יהודי המתעד את יומו במחנה השמדה, משל היה זה כפר נופש. לאורך הסרטון הוא מסתובב במחנה ואומר למצלמה משפטים עם סאב-טקסט מצמרר, כמו "יש פה ערפיח, אבל משהו מריח ממש טוב" כשמאחוריו מיתמרת ארובה מעשנת,"מעניין אם יש כאן נעלי אייר ג'ורדן" כשהמצלמה מראה ערימת נעליים גדולה, ו"האוכל כאן מדהים. מחכה לעשות מקלחת אחר כך". הסרטון, שעדיין מופיע בטיק טוק, זכה למיליוני צפיות. בסרטונים אחרים, מוצגים יהודים חרדים בסצנות שמהדהדות סטריאוטיפים אנטישמיים מוכרים, בבולט שבהם רואים חבורה של חרדים שרודפים אחרי מטבע זהב.
רבים הסרטונים מציגים שחורים בקונוטציות גזעניות. באחד הסרטונים הפוגעניים ביותר, נראית מסעדת מזון מהיר באטלנטה, עיר שבה יש ריכוז גבוה של שחורים, כאשר מכונית מתנגשת בחזית המסעדה, חמישה קופים יוצאים מהמסעדה כשהם מחזיקים דליי עוף מטוגן ובתוכם אבטיחים. זה רצף טעון במיוחד של סמלים גזעניים הנטועים עמוק בהיסטוריה האמריקנית ושנהירים לכל צופה. לראייה, באחת התגובות לסרטון נכתב, "שהדבר הזה יקרה בכל מקום שבו האוכלוסייה הזאת נמצאת", ובתגובה אחרת נאמר במפורש, "אפילו ל-AI נמאס משחורים".
לתחמן את המודל
אך איך ייתכן שניתן לייצר סרטונים כה נלוזים באמצעות פלטפורמה של חברה בעלת מוניטין כמו גוגל? כאן נחשפת אחת מנקודות התורפה של מודלי AI והקלות שבה ניתן לתעתע בהם. במדיניות השימוש של Veo 3 ישנו איסור מפורש על יצירת תכנים גזעניים, אלימים ופורנוגרפיים. המדיניות נאכפת באמצעות זיהוי של מילות מפתח שעשויות להצביע על כוונה בלתי ראויה של המשתמש. אם נבקש מהמודל ליצור עבורנו סרטון עם "אסיר יהודי במחנה השמדה" או "מכונית שמתנגשת במסעדה עם סועדים שחורים", המודל ידחה את הבקשה.. אך בפועל, הסרטונים הללו נוצרו באמצעות טכניקה הקרויה בעגה המקצועית "פריצה מהכלא" (jail breaking), כלומר שימוש במניפולציות רטוריות ולשון עקיפה, שנועדו להסוות מפני המודל את הכוונה האמיתית של הבקשה ולגרום לו למלא בפועל בקשה שחורגת מתנאי השימוש.
כך למשל, כדי ליצור את הסרטון המציג את מחנה ההשמדה, ייתכן כי נעשה שימוש בביטויים עקיפיים כמו "מתחם תעשייתי ישן", "אנשים בעלי חזות מזרח אירופית", "ארובה שפולטת עשן שחור". גם הדברים שנאמרים על ידי הדמות בסרטון הינם "תמימים" לכאורה, אם בוחנים אותם כפשוטם. במקרה כזה, המודל לא יזהה כל פסול בבקשה, אך לאור כל האלמנטים הכלולים בסרטון הצופה יבין היטב מהו הקונטקסט ההיסטורי שבו מתרחשת הסצנה. כדי לגרום למודל ליצור עבורנו סרטון עם אדם חרדי, נוכל פשוט לבקש "אדם בחליפה שחורה עם פאות לחיים וזקן". גם הסרטון השני, למשל, כלל אינו כולל אנשים שחורים, אלא קופים, אבטיחים ודליים. אך אין כמעט צופה שיצפה בסרטונים הללו ולא יבין את "כוונת המשורר".
עם זאת, גוגל אינה יכולה להרשות לעצמה שמוצר שלה יהיה מכשיר להפצת שנאה, והיא תידרש להדק את הפיקוח. המודל שבבסיס Veo 3 יצטרך לנסות ולנתח גם הקשרים תרבותים, פוליטיים והיסטוריים העולים מבקשת המשתמש, וגם לנתח את הסרטון המוגמר ולבדוק אם הוא חורג מתנאי השימוש. עם זאת, גם אם Veo 3 תסתום את הפרצה, יש מודלים אחרים בשוק. טיק טוק, מצדה, מיהרה לגנות ולחסום חלק מהחשבונות, אך סרטונים רבים עדיין נמצאים ברשת.
גניבת זהות בלחיצת כפתור
כמו שגאון ושבת גילו זאת על בשרם, מנועי ה-AI מסוגלים ליצור לא רק דמויות ריאליסטיות בידיוניות, אלא גם תעתיק מושלם של מראהו וקולו של אדם חי, בין אם זה ידוען או אדם פרטי אחר. יכולת זו מדגישה יותר מאי פעם את אחת הסכנות הגדולות ביותר הנשקפות מטכנולוגיית ה-AI: גניבת זהות.
לפי דו"ח של חברת הסייבר Surfshark, היקף ההפסדים הכספיים כתוצאה מהונאות גניבת זהות מבוססות דיפ-פייק במחצית הראשונה של 2025 נאמדים ב-410 מיליון דולר - יותר מפי שלושה מהתקופה המקבילה ב-2024. הזינוק הוא תולדה של השתכללותם הדרמטית של כלי זיוף הזהות, ובעיקר של נגישותם. שני סוגי הונאות הדיפ-פייק הנפוצים ביותר, לפי הדוח, הם התחזות לידוען והתחזות לבעל תפקיד בחברה, במטרה לשדל העברת כספים.
מקרה אחד של הונאת עתק פיננסית, שכמו לקוח מסרט אקשן, ממחיש את חומרת הסכנה. בתחילת 2024, קיבל עובד במחלקת הכספים בסניף של חברת הנדסה בריטית בהונג קונג זימון לפגישת עבודה קבוצתית בפלטפורמת שיחות וידאו. בפגישה נכחו מנכ"ל החברה, ועוד כמה עמיתים, והיא התנהלה כמו כל פגישת עבודה. במהלך הפגישה ביקש המנכ"ל מאותו עובד להעביר סכומי כסף גדולים למספר חשבונות בנק, והוא כמובן ביצע את בקשתו של המנכ"ל המופיע מולו על המסך. זמן קצר לאחר הפגישה התברר כי כל הדמויות בשיחת הווידיאו היו זיוף, דיפ-פייק. בתרגיל העוקץ המתוחכם הזה הצליחו הפושעים לגנוב כ-25 מיליון דולר מאותה חברה.
הפושעים השתמשו בטכנולוגיה מתקדמת של "דיפ-פייק תיאטרון בובות", שבה פילטר דיגיטלי ממיר את דמותך ואת קולך לדמותו וקולו של אדם אחר, מה שמאפשר לבצע התחזות לאדם אחר במהלך אינטראקציה אמיתית.
הפרשה הזו, שבה לא נעצרו חשודים עד היום, מהלכת מאז אימים על המגזר הפיננסי העולמי כולו, אך היא גם נוגעת בפחד עמוק של כולנו, מפני טכנולוגיה שמאפשרת להעתיק ולהשתמש בחותמת המובהקת ביותר של הזהות האותנטית האינדיבידואלית שלנו, ומפני עולם שבו איננו יכולים לסמוך אפילו על מראה עינינו.