משך הסרטון, הפנים החלקות מדי וכלי עריכה לא איכותי - האם התיעוד אמיתי או מזויף? בסרטון שפרסם היום (שני) חמאס לרגל מינוי הרמטכ"ל החדש רא"ל הרצי הלוי, נכלל קטע שבו לכאורה, מופיע הישראלי החטוף המוחזק בידי חמאס אברה מנגיסטו. כמו במקרים דומים בעבר, שבהם פרסמו ארגוני המחבלים צילומים של ישראלים שהוחזקו בידיהם, גם הפעם, מיד עם פרסום הסרטון עלו שאלות בדבר עיתוי הצילום וזהות הדמות שהופיעה בו – אם אכן מדובר בישראלי החטוף או באדם אחר, ואם אכן מדובר בישראלי – מתי צולם הסרטון?
אלא שהפעם, נוסף לתהיות האלו, עלתה אפשרות נוספת, ולפיה ביצירת הסרטון נעשה שימוש באמצעים טכנולוגיים מתקדמים במיוחד, העושים שימוש בבינה מלאכותית (AI) כדי לזייף את דמותו של האזרח ולהציגה כאילו מדובר בצילום אמיתי. אם הרגשתם אי נוחות לא מוסברת בזמן הצפייה בסרטון – ייתכן שהסיבה לכך היא שהסרטון הצליח לעבוד עליכם רק חלקית: העין שלכם הצליחה לקלוט שמשהו לא בסדר, ואכן ייתכן שמדובר בזיוף מתוחכם.
זיופי תמונות סטילס, שנעשים באמצעות תוכנות כמו פוטושופ, הם כבר דבר שבשגרה. אולם זיוף וידאו הוא משימה מורכבת בהרבה שרק בשנים האחרונות הושגה בה התקדמות כזו המאפשרת לעיתים זיוף ברמה כה גבוהה, עד שבמקרים מסוימים ניתן להטעות את העין האנושית.
ליתר דיוק, הדיבור על "דיפ פייק", הכינוי של אותם סרטונים, הופיע בשיח הציבורי כבר בשנת 2018, ומאז עורר חששות על השימוש בו לא רק ליצירת תכנים לא ראויים כמו פורנוגרפיה, אלא גם בגלל פוטנציאל השימוש בו - מזיוף ראיות ועד קמפיינים פוליטיים שיעשו בו שימוש לצורך הטיית בחירות. בשנה שעברה כבר הופיעו פרסומות ראשונות ב"כיכובם" של ידוענים כמו ברוס וויליס, טום קרוז, אילון מאסק וליאונרדו דיקפריו, שבהם נעשה שימוש ב"דיפ פייק".
The power of #DeepFake
El poder del DeepFake#morganfreeman #video #technologies pic.twitter.com/fZIbc61GSU— Noumenal (@noumenalstudios) January 13, 2023
מומחה בהתקפות מבוססת AI גנרטיבי (Generative AI), בכיר בהייטק הישראלי בעבר ששירת במודיעין, בדק את הסרטון, אך לא יכול היה לאשר או להפריך את אמינותו - עם זאת, טען כי לדעתו אכן מדובר בזיוף: "תנועות השפתיים מאוד חוזרות על עצמן ולא חושפות שיניים. יש מין עווית של 'כמו חיוך' לא סימטרי ברגע לא הגיוני, הראש זז מעט מאוד והסרטון מאוד קצר.
"זה נראה כאילו צילמו אדם שדומה לו עושה את תנועות הגוף ונותן את מצג הראש, והלבישו על זה משהו שיוצר בכלי לא מאוד איכותי. כשהראש לא מסתובב בכלל הרבה יותר קל לעשות את זה. מדובר ב-10 שניות בקושי, 300-250 פריימים, דבר שאיש גרפיקה דיגיטלית יכול לעשות באמצעות הרכבת התמונות פריים אחרי פריים תוך כמה שעות".
המומחה סיכם: "ניתן לשים לב גם שהפנים שלו מאוד חלקות, כך שאם הייתי צריך להמר, הייתי אומר שיש סיכוי מאוד גבוה שזה פייק". המומחה סייג את הדברים ואמר שכדי לאשר שאכן מדובר בזיוף, יש מומחים לתנועות פנים שיעברו על הסרטון פריים אחר פריים, "והם אלה שיוכלו לאתר את השגיאות העדינות בצילום".
"הקול נשמע סינטטי"
ד"ר לירון יצחקי-אלרהנד, המשמש בתפקיד ראש תחום בינה מלאכותית בחברת Hour One, הפועלת בתחום ה-Generative AI מסכים עם דבריו של המומחה, ומוסיף כי יש עוד כמה סימנים המחזקים את הסברה שמדובר בזיוף. "הקול נשמע סינטטי, השפתיים בקושי נפתחות, לא רואים שיניים וגם לא לשון. השפתיים גם לא זזות קדימה במהלך הדיבור".
ד"ר יצחקי-אלרהנד הסביר שהבדיקה האם מדובר בזיוף או צילום מקוריים לא פשוטה משום ש"ברגע ששיטה לזיהוי דיפ-פייק הופכת לידועה, מי שמייצר את הדיפ-פייק יודע איך היא עובדת וכבר יכול לעקוף אותה".
"הלב אומר שזה הוא, אבל הראש עדיין לא בטוח", אמר אחיו יאלו מנגיסטו, ועל כך הוסיף המומחה המודיעיני: "העובדה שאחיו, שמכיר אותו מקרוב, לא כל כך משתכנע – אופיינית למקרים של זיופים".
יש לציין כי במערכת הביטחון סבורים שמדובר באברה מנגיסטו.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו